EU se priprema nametnuti stroga pravila o umjetnoj inteligenciji

Europska unija (EU) radi na uvođenju novih strogih pravila o različitim tehnologijama umjetne inteligencije (AI), kao što je ChatGPT softver, svojevrsni "robot za razgovor", koji je osmišljen na temelju AI, prenosi Anadolija.

EU još nema propise o ChatGPT-u ili sličnim AI sustavima, ali je prije dvije godine Europska komisija pripremila prvi zakonski prijedlog za okvir novih pravila o AI i dostavila ga državama članicama i Europskom parlamentu.

Ovaj prijedlog bi uveo neka ograničenja i pravila transparentnosti u korištenju sustavu umjetne inteligencije. Ako prijedlog postane zakon, AI sustav kao što je ChatGPT također će se morati koristiti u skladu s ovim pravilima.

U prijedlogu komisije, AI sustav su klasificirani u četiri glavne grupe: neprihvatljiv rizik, visok rizik, ograničeni rizik i minimalni rizik.

Sustavi umjetne inteligencije za koje se smatra da predstavljaju jasnu prijetnju po životnu sigurnost, sredstva i prava ljudi su u grupi neprihvatljivog rizika.

Također su zabranjeni AI sustavi ili aplikacije koje se protive slobodnoj volji pojedinaca, manipuliraju ljudskim ponašanjem ili vrše društveno bodovanje.

Zatim, u grupu visokog rizika spadaju oblasti kao što su kritična infrastruktura, obrazovanje, kirurgija, evaluacija životopisa za zapošljavanje, kreditni rejting, dokazi, imigracija, azil i upravljanje granicom, verifikacija putnih isprava, biometrijski sustavi identifikacije i sudski i demokratski procesi.

Ovi sustavi moraju biti nediskriminatorni, a rezultati moraju biti vidljivi i podložni adekvatnom ljudskom nadzoru.

Prema pravilima, sigurnosne jedinice će moći da koriste sustave biometrijske identifikacije na javnim područjima u posebnim slučajevima kao što su terorizam i teška krivična djela. Međutim, takva upotreba AI sustava će biti ograničena i podložna odobrenju pravosudnih organa.

Sustavi u grupi ograničenog rizika će takođe morati da ispoštuju određene obveze transparentnosti.

U prijedlogu, chatbotovi su također u grupi ograničenog rizika. Cilj je da se korisnici koji razgovaraju s chatbotovima postanu svjesni da su u interakciji s računarom.

Aplikacije kao što su video igrice koje podržavaju umjetnu inteligenciju ili filteri za neželjenu poštu su u grupi minimalnog rizika.

U međuvremenu nastavlja se rad na zakonu o vještačkoj inteligenciji, koji zahtijeva odobrenje EP-a i država članica kako bi stupio na snagu.