AI u dva dana napravio ono što hakeri nisu uspjeli 22 godine

Kritična greška u PHP-u, programskom jeziku koji pokreće 70 posto svjetskih internetskih stranica, mogla je napadačima omogućiti čitanje lozinki, krađu baza podataka ili preuzimanje kontrole nad čitavim stranicama.

Na taj je propust stručnjak za sigurnost Stefan Esser upozorio još u srpnju 2004., no njegovo je upozorenje desetljećima bilo uglavnom ignorirano jer je iskorištavanje greške zahtijevalo iznimno naporan i dugotrajan rad. Umjetna inteligencija je, međutim, pronašla rješenje za samo dva dana i tako 22 godine staru teorijsku prijetnju pretvorila u kritični sigurnosni problem, piše CNN.

Ove srijede tvrtka OpenAI objavila je metodu napada, istovremeno sa sigurnosnim ažuriranjem koje rješava problem. Iako se može činiti da je pozitivno što su "dobri dečki" prvi došli do otkrića, ono je duboko uznemirilo stručnjake za kibernetičku sigurnost.

Upozoravaju da bi sljedeće ovakvo otkriće moglo doći od nekoga tko ga namjerava iskoristiti kao oružje, a umjetnu inteligenciju nije briga tko ga koristi.

Sigurnost temeljena na iscrpljivanju

Istraživači iz tvrtke za AI sigurnost Calif, u suradnji s novom inicijativom OpenAI-ja "Patch the Planet", odlučili su 30. srpnja usmjeriti veliki jezični model umjetne inteligencije upravo na PHP. Nisu očekivali da će pronaći nešto kritično. Već 1. kolovoza umjetna inteligencija pronašla je metodu za napad na PHP propuste. Nekoliko dana kasnije pronašla je još jednu, a zatim još jednu.

Krajem istog mjeseca i tvrtka Wiz, koju podržava Google, otkrila je nove načine iskorištavanja istog propusta. Nakon što je u srijedu objavljena zakrpa, tvrtke su javno predstavile svoja otkrića. Iz Wiza su propust nazvali jednim od najozbiljnijih u povijesti softvera.

Stručnjaci su na društvenim mrežama masovno komentirali da su na ovo dugo upozoravali.

"Sigurnosna industrija već dugo upozorava na scenarij sigurnosne katastrofe jer umjetna inteligencija takve zadatke obavlja iznimno brzo, brže i od ljudi", rekao je Vyas Sekar, profesor računalnog inženjerstva na Sveučilištu Carnegie Mellon.

"Ovo je možda tek prvi u nizu takvih slučajeva i služi kao ozbiljno upozorenje." Sekar kaže da postoji još mnogo propusta sličnih onima u PHP-u koji čekaju da budu otkriveni, neki poznati, a mnogi ne. Široka dostupnost AI alata značajno je olakšala posao hakerima. Ta je činjenica toliko zabrinula tvrtku Anthropic da je u lipnju zaustavila razvoj svog modela Mythos. Model je bio toliko dobar u otkrivanju sigurnosnih propusta da ga je američka vlada proglasila prijetnjom nacionalnoj sigurnosti.

Ipak, istraživač Ryan Austin iz tvrtke Calif u objavi na blogu istaknuo je da nisu koristili nikakve posebne AI modele koji već nisu bili javno dostupni. Ta demokratizacija AI alata jasno je pokazala da "sigurnost kroz iscrpljivanje" više nije održiva obrana, rekao je Nick Rogers, izvršni direktor tvrtke Fieldwork AI. PHP je 22 godine bio poput banke bez zaštitara.

Svatko je mogao ući u trezor, pod uvjetom da ima vremena isprobati svaku kombinaciju sefa. To je bio toliko mukotrpan posao da se nikome nije isplatio. No, umjetna inteligencija se ne umara. "Pretvoriti teorijski propust u dokaz da ga se može iskoristiti prilično je zamoran i mehanički posao", rekao je Rogers. "Umjetna inteligencija može nastaviti s radom dok ne pronađe način. Vi ne morate ni pokušavati. Možete piti kavu dok ona obavlja posao."

Anatomija propusta

PHP je pogon koji stoji iza velikog dijela interneta, a sve do srijede imao je fatalnu grešku. Propust je omogućavao napadaču da manipulira načinom na koji PHP obrađuje zahtjeve za pokretanje web stranica. Ako bi se poslužitelj srušio zbog nedostatka memorije, ostavljao je za sobom stare podatke koji su se mogli iskoristiti za curenje informacija ili pokretanje zlonamjernog koda. Napad se može usporediti s kaosom u kuhinji pretrpanog restorana. Gosti zatrpaju kuharicu složenim narudžbama, ona odustane usred posla i ostavi nered.

Novi kuhar zatim koristi prljavo posuđe i sastojke te poslužuje kontaminiranu hranu. Iako se dugo znalo da je propust teoretski moguće iskoristiti, bilo je iznimno teško otkriti kako točno. Hakeri su morali srušiti poslužitelj u točno određenom trenutku kako bi zaobišli sigurnosna ograničenja. Kada su istraživači usmjerili AI na taj problem, on je brzo pronašao nekoliko rješenja.

Jedno koristi nesklad u načinu na koji PHP mjeri komprimirane i dekodirane datoteke, što omogućuje datoteci da se sama raspakira i preuzme kontrolu. Drugo rješenje napada PHP duboko ugniježđenim strukturama datoteka koje preopterećuju sustav i uzrokuju kvar memorije.

Propust je zakrpan, ali prijetnja možda nije gotova, napomenuo je Adam Meyers iz sigurnosne tvrtke CrowdStrike. Mnoge zastarjele verzije PHP-a još su u upotrebi, a zakrpa gotovo sigurno nije riješila sve probleme. Prema podacima tvrtke Cloudflare, curenje informacija o propustu prije objave zakrpe rezultiralo je tisućama pokušaja napada.

"Zlonamjerni akteri ne moraju prvi pronaći propust, mogu ga pretvoriti u oružje nakon što postane poznat", rekao je Meyers. "Tek ćemo vidjeti kolike će biti stvarne posljedice."

Što dalje?

OpenAI je u svojoj objavi predložio nekoliko rješenja koja se svode na jedno: treba pisati bolji i sigurniji kod od samog početka. To, međutim, nije od velike pomoći ako je vaša aplikacija već napisana u PHP-u.

"Napuštanje PHP-a prilično je skup proces", istaknuo je Meyers. "To nije kao prelazak s Microsoftove na Googleovu e-poštu, morate ponovno izgraditi cijelu aplikaciju." Ako rješenje nije migracija 70 posto weba na novi jezik, onda ni rješavanje njegovih temeljnih problema neće biti lak zadatak.

Potrebna je promjena paradigme u načinu na koji sigurnosna zajednica djeluje i pretpostavka da sve predstavlja rizik. Tvrtke moraju tretirati svaku operaciju kao što kontrolori leta tretiraju svoje okruženje, rekao je Madhu Shashanka, suosnivač tvrtke Concentric AI. "Sve je potencijalni propust", rekao je Shashanka.

"Svaka poslovna operacija je operacija visokog rizika." Primjerice, tvrtke koje ostavljaju softver nezakrpanim, čak i na nekoliko dana, izlažu se propustima koje zlonamjernim akterima više nije teško ili skupo iskoristiti. "Postoji mnogo propusta koji nikada nisu iskorišteni jer zahtijevaju trud", zaključio je Shashanka. "Umjetna inteligencija je taj trud učinila besmislenim."