Novi dokumenti otkrivaju zabrinjavajući smjer razvoja kineskog AI sustava

Umjetna inteligencija koja ne prati samo što građani govore, nego pokušava predvidjeti što bi mogli reći u budućnosti – upravo takav sustav navodno razvija kineska tehnološka tvrtka Geedge Networks, pokazuje novo istraživanje objavljeno u New York Timesu.

Prema dokumentima koje su analizirali istraživači sa Sveučilišta Vanderbilt, Geedge razvija napredne AI alate koji bi mogli procjenjivati politički rizik pojedinih građana na temelju njihovih internetskih aktivnosti, kretanja i društvenih kontakata.

Riječ je o tvrtki poznatoj po razvoju tehnologija povezanih s kineskim sustavom internetske cenzure poznatim kao "Veliki kineski vatrozid" (Great Firewall). Geedge je ranije dospio u središte pozornosti nakon velikog curenja više od 100.000 internih dokumenata koji su otkrili kako tvrtka izvozi sustave nadzora i internetske cenzure u više država.

Prema navodima istraživača, nova generacija sustava ide korak dalje od klasičnog nadzora. Umjesto da bilježi već postojeće aktivnosti građana, umjetna inteligencija bi trebala analizirati njihove navike pregledavanja interneta, lokacijske podatke mobilnih uređaja, telekomunikacijske zapise i veze na društvenim mrežama kako bi procijenila tko bi u budućnosti mogao postati politički osjetljiva osoba ili kritičar vlasti.

Profesor političkih znanosti Brett Benson sa Sveučilišta Vanderbilt izjavio je kako dokumenti sugeriraju da je cilj bio ‘‘predvidjeti što bi građani mogli učiniti sljedeće i s kim’’, a ne samo pratiti njihovo trenutačno ponašanje.

Ipak, važno je naglasiti da trenutačno nema dokaza da je takav sustav u potpunosti razvijen ili operativno implementiran. Američki dužnosnici koje citira New York Times navode da je riječ o projektu u razvoju te da nema potvrde da se prediktivni model već koristi u praksi.

Dokumenti također pokazuju da je Geedge imao problema s nabavom naprednih računalnih čipova potrebnih za razvoj velikih AI modela. Zbog američkih ograničenja izvoza naprednih poluvodiča kineski istraživači navodno su bili prisiljeni koristiti starije i manje sposobne modele umjetne inteligencije, što je usporilo razvoj projekta.

Posebnu zabrinutost izazivaju ranija otkrića da je Geedge svoje sustave internetskog nadzora već izvozio u države poput Mjanmara, Pakistana, Kazahstana i Etiopije. Prema dokumentima iz velikog curenja podataka iz 2025. godine, tvrtka je razvila svojevrsni "Veliki kineski vatrozid u kutiji", koji drugim državama omogućava filtriranje internetskog prometa, blokiranje VPN servisa i praćenje korisnika.

Kritičari upozoravaju da bi spoj masovnog nadzora i umjetne inteligencije mogao otvoriti potpuno novo poglavlje digitalnog autoritarizma, u kojem bi vlasti mogle reagirati na ono što algoritmi predviđaju da će građani učiniti, a ne na ono što su stvarno učinili. No za sada dostupni podaci upućuju na to da se takva tehnologija još nalazi u razvojnoj fazi, a ne u širokoj primjeni.