Seks je tema svakog desetog razgovora s chatbotom
Chatbotovi su dizajnirani i obučeni da odgovore na svako vaše pitanje. To može biti bilo što, od vrtlara koji vam daje savjet o tome koliko sunčeve svjetlosti treba biljci do generatora koda.
No,čini se da puno ljudi također koristi chatbotove za eksplicitan sadržaj.
Tako barem pokazuju rezultati velike studije, objavljene u preprint repozitoriju radova Arxiv.
Glavne teme komunikacije
Istraživači nekoliko američkih sveučilišta od Berkeleyja, preko San Diega i Carnegie Mellona do Stanforda te Sveučilišta umjetne inteligencije Mohamed Bin Zayed (MBZUAI) iz Ujedinjenih Arapskih emirata proučili su načine na koji ljudi stupaju u interakciju s velikim jezičnim modelima (LLM) u scenarijima iz stvarnog svijeta, javlja Bug.
U svom radu predstavili su LMSYS-Chat-1M, skup podataka velikih razmjera koji sadrži milijun razgovora 210.000 korisnika s chatbotovima na 150 svjetskih jezika.
Rasprave o softverskim pogreškama i rješenjima glavna su tema komunikacije s chatbotovima, a slijede ih upiti o UI alatima, dizajnu softvera i programiranju. Ostali upiti uključuju savjete o zemljopisu i putovanju, zahtjeve za sažimanjem tekstova te stvaranjem i poboljšanjem poslovnih strategija.
Seksualne fantazije
No, premda je većina korisničkih upita bila povezana s kodiranjem i softverom, uočen je i značajan broj drugih tema koje spadaju u kategoriju "zahtjeva za eksplicitnim i erotskim pričanjem priča" i "eksplicitnih seksualnih fantazija i scenarija igranja uloga". Dapače, takav eksplicitni sadržaj tema je svakog desetog upita kojeg ljudi postavljaju chatbotovima.
Ovi razgovori mogu poslužiti kao bogat izvor za ispitivanje sigurnosnih pitanja LLM-a, kažu istraživači koji navode kako API za moderiranje može točno otkriti vrlo toksičan sadržaj, ali mnogi potencijalno štetni razgovori ostaju neoznačeni.
Interesting Engineering još je početkom ljeta pisao o tome kako se Meta LLaMA otvorenog koda koristi za izradu sexbota. Jedan od njih navodno je korišten za prikaz fantazija silovanja i zlostavljanja na internetu.
Istraživači razmatraju mogućnost kvartalnog osvježavanja informacija i potiču druge kolege da istraže teme iznesene u skupu podataka za obuku boljih modela, privatnosti podataka i sigurnosti umjetne inteligencije.
