Papa Franjo, žrtva umjetne inteligencije, upozorava na njezine 'perverzne' opasnosti

Papa Franjo, priznajući da je bio žrtva "deepfake" fotografije, u srijedu je upozorio na "perverzne" opasnosti umjetne inteligencije, ponovivši svoj apel da se ona regulira na globalnoj razini kako bi se iskoristila za opće dobro.

Papa je govorio o svojim strahovima i nadama u vezi s umjetnom inteligencijom (AI) u poruci za Svjetski dan društvenih komunikacija Katoličke crkve koji će se diljem svijeta obilježiti 12. svibnja.

Dok je pozvao ljude da privremeno "ostave po strani katastrofična predviđanja i njihove otupljujuće učinke", njegova poruka na tri stranice bila je uglavnom upozoravajuća.

Papa je upozorio na "kognitivno onečišćenje" koje može iskriviti stvarnost, promovirati lažne narative i zatvoriti ljude u ideološke eho komore, javlja Hina.

''Moramo samo razmisliti o dugotrajnom problemu dezinformacija u obliku lažnih vijesti, koje danas mogu koristiti "deepfakeove", odnosno stvaranje i širenje slika koje izgledaju savršeno uvjerljive, ali su lažne. I ja sam bio predmet toga'', napisao je Papa.

Očito je mislio na njegovu lažnu fotografiju koja je prošle godine postala viralna na društvenim mrežama. Papa je na toj fotografiji u bijelom kaputu do gležnja.

Papa se također osvrnuo na lažne "audioporuke koje koriste nečiji glas kako bi rekli stvari koje ta osoba nikada nije izrekla".

U ponedjeljak je glavni državni odvjetnik u američkoj saveznoj državi New Hampshire rekao da je njegov ured otvorio istragu o podrijetlu lažnih robotskih poziva koji su simulirali glas predsjednika Joea Bidena i poticali glasače da ne glasaju na predsjedničkim predizborima u utorak.

''Tehnologija simulacije koja stoji iza ovih programa može biti korisna u određenim specifičnim područjima, ali postaje perverzna kada iskrivljuje naš odnos s drugima i sa stvarnošću'', napisao je Papa.

Ponovio je poziv, koji je uputio prošlog mjeseca, za pravno obvezujućim međunarodnim ugovorom koji bi regulirao umjetnu inteligenciju.

U poruci objavljenoj u srijedu Papa govori i o s umjetnom inteligencijom "povezanim patologijama" poput smanjenja pluralizma i proliferacije "grupnog razmišljanja", prilikom čega se konsenzusna stajališta zauzimaju bez razmatranja vanjske kritike ili alternativa.

Papa je također govorio o opasnosti umjetne inteligencije u medijima, posebice u izvještavanju o ratu.

''Umjetna inteligencija mora podržavati, a ne eliminirati ulogu novinarstva na terenu'', rekao je.