Američka vojska povjerovala AI-ju, izvješće skoro izazvalo rat s Kinom

Obavještajno izvješće koje je uz pomoć umjetne inteligencije sastavljeno u američkom sustavu umalo je dovelo do vojne akcije protiv kineskog broda, nakon što je pogrešno zaključeno da plovilo prevozi komponente za nuklearni program, piše CNN.

Prema navodima više izvora upoznatih sa slučajem, američka vojska pripremala je presretanje broda na Bliskom istoku, dok su naoružani vojnici bili spremni za ukrcavanje, a vojni zrakoplovi već bili u zraku.

Operacija je zaustavljena nakon dodatne provjere, kada je utvrđeno da je izvješće sastavljeno uz pomoć umjetne inteligencije. Chatbot koji je analizirao podatke pogrešno je protumačio informacije i identificirao teret broda. Nije poznato što je plovilo stvarno prevozilo.

Jedan od izvora upoznat sa slučajem izvješće je opisao kao "potpuno lažno" i rekao da je "zamalo izazvalo rat".

AI u vojnim sustavima

Slučaj je otvorio pitanje rizika korištenja umjetne inteligencije u obavještajnim i vojnim operacijama.

Američka vojska posljednjih godina nastoji proširiti uporabu umjetne inteligencije u različitim područjima, od analize podataka i logistike do pomoći pri odabiru ciljeva.

U ovom slučaju analitičar Zapovjedništva za specijalne operacije zatražio je od AI alata analizu obavještajnih podataka povezanih s brodskim manifestom. Softver je povezao javno dostupne informacije s podacima iz državnih baza i izveo pogrešan zaključak o teretu.

Nakon toga analitičar je pomoću istog alata oblikovao nalaze u standardno obavještajno izvješće koje je proslijeđeno unutar sustava.

Pentagon ubrzava primjenu AI-ja

Američko Ministarstvo obrane posljednjih mjeseci zagovara bržu primjenu umjetne inteligencije u vojsci, uz obrazloženje da tehnologija može ubrzati donošenje odluka i povećati učinkovitost.

Ministar obrane Pete Hegseth ranije je predstavio strategiju ubrzanja primjene umjetne inteligencije, kojom se predviđa šira dostupnost AI alata za milijune vojnih i civilnih djelatnika.

Istodobno, više američkih dužnosnika upozorava na problem različitih sustava, standarda i pravila korištenja umjetne inteligencije unutar različitih dijelova vlade.

"AI omogućuje brže dolazak do loše ideje"

Stručnjaci upozoravaju da najveći rizik nije samo u samoj tehnologiji, nego u ljudskim odlukama koje se temelje na pogrešnim informacijama koje generiraju automatizirani sustavi.

Takve pogreške, poznate kao "halucinacije" umjetne inteligencije, nisu rijetkost kod ovakvih alata, a dodatni problem predstavlja pritisak da se informacije obrađuju što brže.

Jedan od izvora upoznatih s vojnom politikom rekao je da uporaba AI-ja pri odabiru ciljeva raste, ali da još uvijek ne postoje jasna pravila koja bi u potpunosti spriječila pogreške.

"AI vam omogućuje da brže dođete do loše ideje", sažeo je jedan od sugovornika, prenosi Index.