Stroga EU pravila primjene umjetne inteligencije

Umjetna inteligencija (artificial intelligence AI), strojno učenje (machine learning ML), algoritamski utemeljeni sustavi i automatiziranih tehnologija odlučivanja (automated decision making ADM) napreduju brzim tempom te zastupnici Europskog parlamenta žele jasan skup prava kako bi se zaštitili potrošači u kontekstu umjetne inteligencije i automatiziranog odlučivanja.

Parlamentarni Odbor za unutarnje tržište i zaštitu potrošača odobrio je u četvrtak 23. siječnja rezoluciju koja se bavi nekoliko izazova koji proizlaze iz brzog razvoja umjetne inteligencije i automatiziranih tehnologija odlučivanja.

Rezoluciju je izglasao Odbor za unutarnje tržište i zaštitu potrošača s 39 glasova za, nijednim glasom protiv i četiri suzdržana pa će se naći na glasanju na prvom zasjedanju EU parlamentarne skupštine.

Ukoliko Rezoluciju prihvati skupština bit će proslijeđena Vijeću EU-a i Europskoj komisiji. Iz Europske komisije najavili su kako će predstaviti svoje planove za europski pristup umjetnoj inteligenciji 19. veljače 2020. godine, javlja  Mreža.

Kad potrošači stupaju u interakciju sa ADM sustavom, trebali bi biti “pravilno informirani o tome kako funkcionira, o tome kako doći do čovjeka koji ima ovlasti donošenja odluka i o tome kako se odluke sustava mogu provjeriti i ispraviti”, navodi Odbor za unutarnje tržište i zaštitu potrošača.

Ti bi sustavi trebali koristiti samo visokokvalitetne i nepristrane skupove podataka i “objašnjive i nepristrane algoritme” kako bi povećali povjerenje i prihvaćanje potrošača, navodi se u rezoluciji. Usto, Odbor zahtjeva uspostavu strukture za kontrolu primjene algoritamski utemeljenih sustava kako bi se uklonile moguće pogreške u automatiziranim odlukama.

Potrošači bi također trebali imati mogućnost traženja ljudskog preispitivanja i naknade pravnih automatiziranih odluka koje su konačne i trajne.

“Ljudi uvijek moraju biti krajnje odgovorni za odluke koje se donose postupcima upravljanja ADM-om i moći ih poništiti”, posebno u vezi s medicinskom, pravnom i računovodstvenom profesijom te bankarskim sektorom, istaknuli su zastupnici Europskog parlamenta.

Proizvodi s omogućenim AI mogu se razvijati i djelovati na način koji nije predviđen prilikom prvog stavljanja na tržište te zastupnici Europske unije pozivaju Europsku komisiju da podnese prijedloge kojima se prilagođavaju sigurnosna pravila EU-a za proizvode (npr. Direktive o sigurnosti strojeva i igračaka) kako bi se osiguralo da potrošači budu zaštićeni od štetnih posljedica, uspostavi jasna odgovornost i obveze proizvođača te da korisnici budu u potpunosti informirani o načinu korištenja tih proizvoda.

Zastupnici pozivaju i na utvrđivanje procjene rizika za AI i ADM te na zajednički pristup EU kako bi se osigurala prednost tih procesa i ublažili rizici u cijeloj EU.

Prema zakonodavstvu EU-a, trgovci moraju informirati potrošače kada je cijena robe ili usluga personalizirana na temelju ADM-a, podsjećaju zastupnici Europskog parlamenta, tražeći od Europske komisije da pažljivo nadgleda provedbu tih pravila.

Također Europska komisija mora provjeriti kako se primjenjuje uredba EU kojom se zabranjuje neopravdano geoblokiranje kako bi se osiguralo da se ADM ne koristi za diskriminaciju potrošača na temelju njihove nacionalnosti, prebivališta ili privremene lokacije.