U Vijeću Europe dogovoren sporazum o umjetnoj inteligenciji - Što dalje?

Ministri vanjskih poslova 46 zemalja Vijeća Europe u petak su dogovorili sporazum o korištenju umjetne inteligencije (AI), prenosi Hina.

''Ovim novim sporazumom želimo osigurati odgovornu uporabu umjetne inteligencije koja poštuje ljudska prava, vladavinu prava i demokraciju'', rekla je glavna tajnica Vijeća Marija Pejčinović u priopćenju za javnost.

Okvirna konvencija Vijeća Europe o umjetnoj inteligenciji prvi je obvezujući međunarodni ugovor o tehnologiji. Iako je sastavljen pod okriljem Vijeća Europe, mogu je potpisati i druge zemlje.

Između ostalog, potpisnici su suglasni stvoriti odredbe u svojim nacionalnim zakonima koje osiguravaju odgovarajuću transparentnost, nadzor i odgovornost u korištenju sustava umjetne inteligencije. Također se obvezuju da će osigurati da sustavi umjetne inteligencije nepravedno ne diskriminiraju ili krše privatnost ljudi.

U čemu su razlike?

Konvencija se razlikuje od budućeg Zakona Europske unije o umjetnoj inteligenciji, iako je EU sudjelovao u izradi nacrta ugovora.

Dok je konvencija skup širokih načela koja se potpisnici moraju pridržavati u svojim nacionalnim zakonima, Zakon o umjetnoj inteligenciji je posebna i detaljna regulativa primjenjiva u 27 zemalja EU-a.

Očekuje se da će ministri EU-a Zakon o umjetnoj inteligenciji odobriti u utorak.

Vijeće Europe i Europska unija potpuno su odvojene organizacije, iako je svih 27 država članica EU među 46 članica Vijeća.

U izradi konvencije sudjelovalo je i 11 država koje nisu članice Vijeća: Argentina, Australija, Kanada, Kostarika, Izrael, Japan, Meksiko, Peru, SAD, Urugvaj i Vatikan.

Komisija traži dokumente o Bing AI-u

Europska komisija u petak je Microsoftu odredila da do 27. svibnja obvezno dostavi dokumente koji se odnose na korištenje generativne umjetne inteligencije (AI) u njegovoj tražilici Bing.

Obvezujući rok se odnosi na dva sustava "Copilot in Bing", višenamjenski sustav koji može stvarati tekst i slike na temelju upita korisnika, i "Image Creator by Designer", generator slika.

Komisija sumnja da AI generira lažne informacije, poznate kao halucinacije, iz ovih sustava, kao i "deepfake" generiran umjetnom inteligencijom te manipulira biračima, čime se moguće krši EU Zakon o digitalnim uslugama (DSA).

DSA je sveobuhvatni propis o mrežnom sadržaju koji, između ostaloga, zahtijeva da vrlo velike platforme poput Microsofta kontroliraju širok niz različitih rizika povezanih s njihovim uslugama. Generativni AI sustavi omogućuju korisnicima stvaranje sadržaja s pomoću upita. Primjerice, od sustava se može tražiti da odgovori na pitanja, da se napiše esej, priča ili pjesma, te da se generira slika ili zvuk.

"Halucinacije" se javljaju kada korisnik postavi pitanje generativnom AI sustavu i dobije netočan odgovor. "Deepfakes" uključuje namjerno korištenje umjetne inteligencije za manipuliranje slikom ili videom stvarne osobe kako bi ih se lažno predstavilo - na primjer, kako bi im se stavilo određene riječi u usta.

Ako Microsoft ne dostavi tražene dokumente na vrijeme, DSA omogućuje Komisiji da kazni tvrtku do jedan posto njezinog globalnog godišnjeg prihoda te nametanje dodatne kazne na dnevnoj razini do pet posto njezinog dnevnog prihoda. Ako Komisija na kraju zaključi da Microsoft nije uspio ublažiti rizike navedene u DSA-u, kazne bi mogle doseći šest posto globalnog godišnjeg prihoda, prenosi Hina.