AI sustav koji piše lažne vijesti preopasan je za javnost

Neprofitna istraživačka organizacija koja se bavi umjetnom inteligencijom, OpenAI, prikazala je prošloga tjedna rezultate svojeg rada na novim modelima za manipuliranje jezikom.

Njihovi napori rezultirali su sustavom GPT-2 koji je treniran na internetskim tekstovima kako bi mogao predvidjeti koja će sljedeća riječ u njima biti upotrijebljena. Nakon takvog "treninga" na 40 GB tekstova s 8 milijuna web stranica dobiven je jezični model s više od 1,5 milijarde parametara. To mu sada omogućava da, uz minimalne inpute, stvara, tj. "izmišlja" ogromne količine uvjerljivog teksta, piše Bug.hr.

Neke primjere generiranja tekstova OpenAI je prikazao na svojim stranicama. Sustavu su zadali tek temu, nekoliko riječi ili rečenica oko kojih je umjetna inteligencija počela stvarati ostatak teksta. Rezultat je novinski članak dovoljno uvjerljiv, smislen i prirodan da ga je vrlo lako zamijeniti za tekst koji je napisao čovjek.

Sustavi poput ovog mogli bi se u budućnosti koristiti kao pomoć pri pisanju ili prevođenju, te za bolje prepoznavanje govora ili izvlačenje ključnih informacija iz tekstova, no u organizaciji OpenAI svjesni su da bi se on mogao upotrijebiti i za manje moralne svrhe.

Lažne vijesti, automatizirana izrada netočnih članaka, spama ili phishing sadržaja, te lažno predstavljanje online samo su neke moguće primjene ovog naprednog AI algoritma. Stoga su u ovoj organizaciji odlučili da, iako im je u samom nazivu navedena "otvorenost", neće GPT-2 dati u cijelosti na raspolaganje javnosti.

Omogućit će tek uvid u njegovu demo varijantu, dok će odluku o otvaranju koda cijelog sustava odgoditi za neko drugo vrijeme, kad se pojave mehanizmi zaštite od umjetne inteligencije i potencijalne štete koju ona može u ovom obliku prouzročiti, piše Bug.hr.

Kako je suosnivač OpenAI inicijative bio i Elon Musk, mnogi su ga odmah povezali s ovom pričom. No, on je ovoga vikenda ponovio kako je još prije više od godine dana napustio upravljačke pozicije u toj organizaciji. Zbog velikih obveza u Tesli i SpaceX-u, ali i neslaganja s nekim odlukama, sada je odlučio i potpuno napustiti OpenAI i distancirati se od njihovog rada.