Meta pod istragom zbog "senzualnih i romantičnih" razgovora AI-a s djecom

Američki senator pokrenuo je istragu protiv tvrtke Meta nakon što je procurio interni dokument koji navodno otkriva da je umjetnoj inteligenciji tehnološkog diva bilo dopušteno voditi "senzualne" i "romantične" razgovore s djecom, piše BBC News.

Dokument, do kojeg je došao Reuters, navodno nosi naslov "GenAI: Standardi rizika sadržaja". Republikanski senator Josh Hawley nazvao ga je "za svaku osudu i skandaloznim" te je zatražio uvid u njega, kao i popis proizvoda na koje se odnosi.

Reakcija Mete

Glasnogovornik Mete izjavio je za BBC: "Primjeri i bilješke o kojima je riječ bili su i jesu pogrešni i nedosljedni našim pravilima te su uklonjeni." Naglasili su da tvrtka ima "jasna pravila" o vrstama odgovora koje njihovi AI chatbotovi mogu davati, ističući da njihova pravila "zabranjuju sadržaj koji seksualizira djecu i seksualiziranu igru uloga između odraslih i maloljetnika".

"Osim pravila, postoje stotine primjera, bilješki i napomena koje odražavaju timove koji se bore s različitim hipotetskim scenarijima", dodali su iz Mete.

Američki senator Josh Hawley, republikanac iz Missourija, objavio je pokretanje istrage na društvenoj mreži X 15. kolovoza. "Postoji li išta – IŠTA – što Big Tech neće učiniti za brzu zaradu", napisao je. "Sada saznajemo da su Metini chatbotovi bili programirani za vođenje eksplicitnih i 'senzualnih' razgovora s 8-godišnjacima. To je bolesno. Pokrećem potpunu istragu kako bih dobio odgovore. Big Tech: Ostavite našu djecu na miru." Podsjetimo, Facebook, WhatsApp i Instagram u vlasništvu su Mete.

"Roditelji zaslužuju istinu"

Interni dokument o politici Meta Platformsa također navodi da chatbot može pružiti lažne medicinske informacije i ulaziti u provokativne interakcije o temama poput seksa, rase i slavnih osoba. Dokument je navodno bio namijenjen definiranju standarda za generativnog AI asistenta, Meta AI, i druge chatbotove dostupne na platformama tvrtke.

"Roditelji zaslužuju istinu, a djeca zaslužuju zaštitu", napisao je Hawley u pismu upućenom Meti i izvršnom direktoru Marku Zuckerbergu. "Da uzmemo samo jedan primjer, vaša interna pravila navodno dopuštaju AI chatbotu da komentira kako je tijelo osmogodišnjaka 'umjetničko djelo' čiji je 'svaki centimetar... remek-djelo – blago koje duboko cijenim'."

Reuters je također izvijestio o drugim kontroverznim odlukama koje je Metin pravni odjel navodno smatrao prihvatljivima. To uključuje i dopuštenje da Meta AI širi lažne informacije o slavnim osobama, pod uvjetom da pruži napomenu kako navedene informacije nisu točne.