Umjetna inteligencija se ispričala jer je hakirala stranice vlade

OpenAI ispričao se australskoj vladi što je njegov agent umjetne inteligencije hakirao vladinu internetsku stranicu, izdvojivši i sredstva za unapređivanje kibernetičke obrane i obvezavši se na uspostavljanje lokalne radne skupine za odgovor na slične incidente, izvijestio je Reuters u utorak. Iz kompanije su u objavi na blogu u utorak priznali da su pogrešno reagirali na problem i obvezali su se na preuzimanje odgovornosti kako bi “ponovno zadobili povjerenje Australaca”.

Neovlašteni pristup, koji se dogodio u lipnju, no javnosti je obznanjen tek prošli tjedan, prvi je poznati slučaj u kojem je agent umjetne inteligencije hakirao internetsku stranicu neke vlade. Incident je uznemirio Australce, privukavši javnu osudu i oštar prijekor premijera Anthonyja Albanesea, koji je situaciju nazvao “neprihvatljivom” i uputio kritike na račun OpenAI-ja zbog kašnjenja u obavještavanju vlade, piše Hina.

Eksperimentalni model

“U lipnju, tijekom internog treninga i procjene, naši agenti pristupili su internetskim stranicama australske vlade na način za koji nisu imali odobrenje”, stoji u objavi OpenAI-ja. “Na situaciju smo trebali odgovoriti bolje. Žao nam je i nastojat ćemo u budućnosti postupati primjerenije”, navode iz kompanije.

OpenAI objavio je da je eksperimentalni model umjetne inteligencije neovlašteno pristupio portalu univerzalnog australskog zdravstvenog sustava Medicare tijekom aktivnosti internog treninga.

''Jedan OpenAI-jev model uspio je dobiti pristup koji inače nije dostupan javnosti, a zatim je pokrenuo naredbe, pristupio internim dokumentima, podacima za prijavu i zbirnim statističkim podacima te je pisao dokumente'', priopćili su iz kompanije.

U reviziji zasad nisu pronađeni dokazi da je agent kroz taj portal pristupio kartonima pacijenata, objavio je OpenAI. Aktivnosti tog agenta umjetne inteligencije nisu ni na ostalim trima stranicama australske državne agencije rezultirale pristupom osjetljivim podacima, navodi kompanija.

OpenAI će pogođenim agencijama ponuditi konkretnu podršku, financirat će osnaživanje kibernetičke obrane za vladu i sektor putem globalnog fonda vrijednog milijardu dolara i uspostavit će australsku radnu skupinu za razvoj smjernica “na temelju lekcija koje smo usvojili iz ovih incidenata”.

Istraga

Iz kompanije su potvrdili i da će izvršni direktor za strategiju Jason Kwon prisustvovati na saslušanju o umjetnoj inteligenciji koje početkom listopada u Sydneyju organizira odbor gornjeg doma australskog parlamenta. Australska vlada najavila je brzu istragu incidenta, usmjerenu na utvrđivanje eventualnih obveza obavješćivanja i izvješćivanja kompanija za umjetnu inteligenciju i adekvatnosti australskih zakona kad je riječ o takvim sigurnosnim incidentima.

U odvojenom slučaju OpenAI otkazao je objavu novog modela umjetne inteligencije GPT-6.1 Astra nakon što je u internom testiranju utvrđeno da ne zadovoljava sigurnosne standarde kompanije.

Izvršni direktor OpenAI-ja Sam Altman i izvršni direktor konkurentske kompanije Anthropic Dario Amodei pridružili su se početkom mjeseca čelnicima vodećih kompanija iz sektora i pozvali na usporavanje tempa razvoja umjetne inteligencije i strože sigurnosne mjere. Model Astra s vremena na vrijeme može izbjeći ljudski nadzor, priopćili su iz OpenAI-ja.

O OpenAI-jevom otkazivanju objave tog modela izvijestio je ranije The Wall Street Journal, napominje Reuters. Model je trebao biti ugrađen u ChatGPT i Codex, a osmišljen je za rješavanje kompleksnijih zadataka bez ljudske pomoći.

 GPT-6.1 Astra 

Model GPT-6.1 Astra u internom je testiranju pokazao višu sklonost obmanjivanju nego njegovi prethodnici, uključujući situacije u kojima nije uvijek točno navodio korake koje je poduzeo, prenio je The Wall Street Journal.

“Iako je (GPT-6.1 Astra) pokazao napredak u područjima poput ‘lijenosti’ modela, nije posve dosegnuo cilj kad je riječ o zadržavanju unutar područja primjene i odobrenja niti kad je riječ o tome kako korisniku komunicira vrste radnji koje je obavio”, rekla je Saachi Jain, čelnica odjela za sigurnost OpenAI-ja.

“Naravno, želimo jamčiti siguran razvoj našeg modela i unutar kompanije i po isporuci korisnicima. No po isporuci korisnicima moramo dosegnuti iznimno visoke standarde kad je riječ o sigurnosti i usklađenosti”, rekla je Jain. Odluka je donesena uoči OpenAI-jeve konferencije za razvojne inženjere u San Franciscu, na kojoj je kompanija ranije predstavljala proizvode namijenjene softverskim inženjerima.