Američke tajne službe navodno otkrile što sve može umjetna inteligencija

Tvrdnja koja se posljednjih dana širi američkim medijima i tehnološkim krugovima mogla bi predstavljati jedan od najozbiljnijih sigurnosnih upozoravajućih signala od pojave napredne umjetne inteligencije.

Prema pisanju britanskog lista The Economist, američki senator Mark Warner, potpredsjednik Odbora za obavještajne poslove Senata, izjavio je kako mu je direktor američke Nacionalne sigurnosne agencije (NSA) i Zapovjedništva za kibernetičke operacije general Joshua Rudd rekao da je AI model Mythos "provalio u gotovo sve klasificirane sustave" NSA-e, i to "ne u tjednima, nego u satima". 

Tvrdnja zasad nije javno potvrđena od strane NSA-e, a detalji navodnog incidenta ostaju nepoznati. Međutim, izjava dolazi u trenutku kada se američka administracija i tehnološka tvrtka Anthropic nalaze u otvorenom sporu oko modela Mythos i njegove javne verzije Fable 5. 

Američko Ministarstvo trgovine prošlog je tjedna naredilo Anthropicu da obustavi pristup svojim najnaprednijim AI modelima za strane korisnike, navodeći zabrinutost da se zaštitni mehanizmi mogu zaobići te da bi modeli mogli biti iskorišteni za pronalaženje sigurnosnih ranjivosti ili vojno-obavještajne svrhe. 

S druge strane, Anthropic tvrdi da su otkrivene ranjivosti relativno ograničene te da slične sposobnosti imaju i drugi javno dostupni AI modeli. Tvrtka smatra da je reakcija američkih vlasti pretjerana. 

Posebnu pozornost izaziva činjenica da je NSA navodno već koristila Mythos u određenim kibernetičkim operacijama te da su inženjeri Anthropica surađivali s američkim sigurnosnim strukturama. Upravo zato, ako se navodi pokažu točnima, radilo bi se o situaciji u kojoj je alat razvijen za jačanje kibernetičkih sposobnosti navodno demonstrirao mogućnost kompromitiranja sustava koje je trebao štititi. 

Bez obzira na to koliko su tvrdnje točne ili preuveličane, rasprava koja se otvorila pokazuje koliko su napredni AI sustavi postali važno pitanje nacionalne sigurnosti i zašto sve više vlada umjetnu inteligenciju promatra kao stratešku tehnologiju usporedivu s najosjetljivijim vojnim i obavještajnim alatima.