Zuckerbergovu najavu opisali kao zastrašujuću: "Kao da ljudima dajete planove za izradu nuklearne bombe"

Marka Zuckerberga optužuju za neodgovoran pristup umjetnoj inteligenciji nakon što se obvezao izgraditi moćan sustav umjetne inteligencije na razini ljudske. Osnivač Facebooka također je sugerirao da bi novi AI sustav mogao biti besplatan za širu javnost.

Izvršni direktor Mete rekao je da će tvrtka pokušati izgraditi sustav umjetne opće inteligencije (AGI), i to otvorenog koda, što znači da će biti dostupan programerima izvan tvrtke. Sustav treba učiniti "što je moguće šire dostupnim", dodao je.

U objavi na Facebooku Zuckerberg je rekao da je jasno da sljedeća generacija tehnoloških usluga "zahtijeva izgradnju potpune opće inteligencije".

Što je AGI?

AGI nije strogo definiran pojam, ali se obično odnosi na teoretski AI sustav koji može izvršiti niz zadataka na razini inteligencije koja odgovara ili premašuje ljudsku. Potencijalna pojava AGI-ja alarmirala je stručnjake i političare diljem svijeta koji se boje da bi takav sustav, ili kombinacija više AGI sustava, mogao izbjeći ljudsku kontrolu i ugroziti čovječanstvo.

Zuckerberg je potvrdio da će Meta razmotriti mogućnost da AGI bude otvorenog koda, odnosno besplatno dostupan programerima i javnosti za korištenje i prilagodbu.

"Ova tehnologija je toliko važna, a mogućnosti su tako velike, da bismo trebali izvorni kod učiniti što je moguće dostupnijim na odgovoran način, kako bi svi mogli imati koristi", rekao je, što prenosi Index.hr.

"Ovo je zastrašujuće i neodgovorno od Zuckerberga"

Wendy Hall, profesorica računalnih znanosti na Sveučilištu Southampton i članica UN-ovog savjetodavnog tijela za umjetnu inteligenciju, rekla je da je mogućnost AGI-ja otvorenog koda "stvarno, vrlo zastrašujuća" i da je neodgovorno od Zuckerberga da to uopće razmatra.

"Pomisao da će AGI otvorenog koda biti pušten javnosti prije nego što smo razradili kako regulirati ove vrlo moćne AI sustave je stvarno vrlo zastrašujuća", rekla je. "U krivim rukama ovakva bi tehnologija mogla učiniti veliku štetu. Jako je neodgovorno da tvrtka to predloži", dodala je.

"Srećom, mislim da će proći još mnogo godina prije nego što takav sustav bude realiziran na neki smislen način, tako da imamo vremena za postavljanje regulacijskih sustava. Ali od pitanja je javne sigurnosti da hitno napredujemo po tom pitanju", rekla je Hall.

"To nije odluka koju treba ostaviti u rukama tehnološke tvrtke"

Meta je bila među tehnološkim tvrtkama na globalnom summitu o sigurnosti umjetne inteligencije u Ujedinjenom Kraljevstvu prošle godine koje su se obvezale dopustiti vladama da provjeravaju alate za umjetnu inteligenciju prije i nakon njihovog objavljivanja.

Drugi stručnjak sa sjedištem u Velikoj Britaniji rekao je da otvaranje AGI sustava nije odluka koju bi trebalo ostaviti u rukama tehnološke tvrtke.

"Postoje duboki i složeni argumenti o prednostima otvaranja koda postojećih AI modela, a guranje takve ideje u područje AGI-ja moglo bi spasiti svijet ili biti katastrofalno", rekao je dr. Andrew Rogoyski, direktor Instituta za AI pri Sveučilištu Surrey. "Ove odluke moraju biti donesene međunarodnim konsenzusom, a ne u upravi tehnološkog diva".

U intervjuu za Verge, Zuckerberg je rekao da je sklon otvaranju kodu sve dok "to ima smisla i bude sigurno i odgovorno".

"To je kao da dajete ljudima planove za izradu nuklearne bombe"

Metina prošlogodišnja odluka da otvori kod AI modela Llama 2 izazvala je kritike nekih stručnjaka, uključujući Halla, koji je rekao da je to "pomalo poput davanja ljudima planova za izradu nuklearne bombe".

Tvrtka OpenAI iz Kalifornije, koja stoji iza popularnog ChatGPT-ja, također radi na AGI-ju, koji definira kao "AI sustave koji su općenito pametniji od ljudi", dok je Demis Hassabis, voditelj Googleovog AI odjela Google DeepMind, rekao da bi čovječanstvo moglo doći do AGI tehnologije za manje od 10 godina.

Izvršni direktor OpenAI-ja Sam Altman zvučao je oprezno na Svjetskom ekonomskom forumu u švicarskom Davosu ovog tjedna, kada je rekao da bi daljnji napredak u umjetnoj inteligenciji bio nemoguć bez proboja u opskrbi energijom kao što je nuklearna fuzija.

Zuckerberg nije iznio vremenski okvir za razvoj AGI sustava, iako je rekao da je Meta izgradila "apsolutno ogromnu količinu infrastrukture" za stvaranje novih AI sustava. Tvrtka je naručila značajnu zalihu čipova za obradu AI-ja. Zuckerberg je dodao da je u tijeku i rad na nastavku Llame 2.