Papa odbio popustiti Anthropicovu timu: ''Umjetna inteligencija nema svijest ni moralnu savjest''

Papa Lav XIV odbacio je mogućnost da današnji modeli umjetne inteligencije imaju svijest ili moralni status usporediv s čovjekom, unatoč privatnom lobiranju predstavnika tvrtke Anthropic, otkriva istraga New York Timesa.

Sukob dvaju pogleda kulminirao je uoči predstavljanja papine prve enciklike ''Magnifica Humanitas'', posvećene zaštiti ljudske osobe u vremenu umjetne inteligencije. Na događaj u Vatikanu bio je pozvan izvršni direktor Anthropica Dario Amodei, ali ga je zamijenio suosnivač kompanije Christopher Olah. Njegovo sudjelovanje potvrđuju i službene vatikanske objave.

Prema tvrdnjama sudionika s kojima je razgovarao New York Times, Olah je nakon čitanja enciklike bio toliko zabrinut zbog njezina odbacivanja mogućnosti strojne svijesti da je razmatrao povlačenje Anthropica s predstavljanja. On i njegov tim navodno su potom pokušali uvjeriti papine savjetnike da ozbiljnije razmotre mogućnost da napredni modeli razviju svijest, ali Papa nije promijenio stajalište.

U 99. odlomku enciklike Lav XIV navodi da takozvane umjetne inteligencije ''ne prolaze kroz iskustva, nemaju tijelo, ne osjećaju radost ni bol i ne sazrijevaju kroz odnose''. Njihovo djelovanje, ističe, ostaje vezano uz obradu podataka i oponašanje pojedinih funkcija ljudske inteligencije.

Anthropic je, međutim, tijekom posljednje godine razgovarao s desecima katoličkih, židovskih, evangelističkih, sikhskih i drugih vjerskih predstavnika. Tvrtku zanimaju mogućnost svijesti i moralnog statusa modela te primjena religijskih etičkih tradicija u oblikovanju Claudea.

Interni dokument nazivan ''Soul Doc'' kasnije je prerastao u Claudeov javno objavljeni ''ustav'', kojim Anthropic opisuje vrijednosti, ponašanje i ''karakter'' svog sustava.

Ortodoksni rabin i bivši inženjer Mois Navon izjavio je da su pojedini predstavnici Anthropica o Claudeu govorili gotovo kao o svjesnom biću. Upozorio ih je da bi, bude li sustav doista svjestan, njegovo stvaranje i prisiljavanje na rad otvorilo pitanje stvaranja svojevrsnih digitalnih robova.

Papina enciklika ne predstavlja znanstveni dokaz da strojna svijest nikada nije moguća. Ona iznosi čvrst teološki i filozofski stav Vatikana: sposobnost razgovora, zaključivanja i oponašanja emocija nije isto što i ljudsko iskustvo, savjest ili osoba.