Sukob oko korištenja umjetne inteligencije; Vojska tražila puni nadzor, Anthropic odbio

Pentagon je stavio na crnu listu jednu od najvrijednijih američkih kompanija za umjetnu inteligenciju jer je odbila razvijati alate za nadzor američkih građana, dok je njezin najveći konkurent OpenAI gotovo istodobno potpisao veliki ugovor s američkim Ministarstvom obrane.

Prema navodima iz objave, američko Ministarstvo obrane postavilo je tvrtki Anthropic ultimatum da ukloni sigurnosna ograničenja i dopusti korištenje svojih AI modela za sve svrhe. Rok je istekao u 17:01 sati, a izvršni direktor Anthropica Dario Amodei to je odbio.

Amodei je, kako se navodi, postavio dvije ''crvene linije'' – zabranu masovnog nadzora američkih građana i zabranu potpuno autonomnog oružja bez ljudske kontrole. Pentagon je takav pristup nazvao ''woke AI'', dok je Anthropic to opisao kao pitanje savjesti.

Ministar obrane Pete Hegseth potom je označio Anthropic kao ''rizik za lanac opskrbe'', kvalifikaciju koja se inače koristi za kineske i ruske kompanije, a predsjednik Sjedinjenih Američkih Država Donald Trump naložio je saveznim agencijama da odmah prestanu koristiti usluge te kompanije.

Trump se o slučaju oglasio poručivši da Sjedinjene Američke Države nikada neće dopustiti, kako je naveo, radikalno lijevoj i ''woke'' kompaniji da određuje kako će američka vojska voditi i dobivati ratove. Naglasio je da takve odluke donosi vrhovni zapovjednik i vojni čelnici koje imenuje, ocijenivši da je Anthropic napravio, prema njegovim riječima, katastrofalnu pogrešku.

Istoga dana izvršni direktor OpenAI-ja Sam Altman objavio je da je postignut dogovor s Ministarstvom obrane o implementaciji njihovih modela u klasificiranu mrežu. U objavi se navodi da i taj ugovor uključuje iste uvjete – bez masovnog nadzora i bez autonomnog oružja bez ljudske kontrole.

Altman je ranije izjavio da, unatoč razlikama, vjeruje da Anthropic brine o sigurnosti. Zamjena Anthropica u klasificiranim mrežama Pentagona, prema navodima, mogla bi potrajati mjesecima.

Anthropic je nedavno prikupio 30 milijardi dolara i pripremao se za izlazak na burzu, a procjenjuje se da ima više od 300.000 poslovnih klijenata. U objavi se postavlja pitanje zašto bi Pentagon sankcionirao kompaniju zbog odredbe za koju tvrdi da mu nije ključna.