I OpenAI ublažava pravila moderiranja sadržaja

Kompanija OpenAI je prepoznala da ranija zabrana političkih rasprava nije bila učinkovita a niti u političkom trendu, pa je odlučila ukloniti većinu ograničenja. 

Moderiranje je temeljeno na dokumentu Model Spec, skupu pravila za upravljanje odgovorima na različite vrste upita i sadržaja u AI sustavima. On definira prihvatljive teme, način obrade osjetljivih pitanja te situacije u kojima sustav treba ograničiti ili odbiti odgovor. 

Politička poravnavanja

Nije čudo da se i OpenAI poravnava politički sa sadašnjim idejama Trumpove administracije kako bi trebalo organizirati društvene mreže i medije, javlja Bug.

Uz to, koincidentalno (?), ova odluka podudara se s nedavnim govorom potpredsjednika JD Vancea koji je pred svjetskim čelnicima istaknuo zabrinutost da bi AI mogao ograničavati različita mišljenja, posebno konzervativna stajališta.

Uvođenje "odraslog načina rada"

Uz političke slobode, OpenAI razmatra i uvođenje "odraslog načina rada". Tvrde da je odluka o tome donesena nakon povratnih informacija korisnika i javne rasprave. 

Sam Altman, izvršni direktor tvrtke, već je u prosincu podržao tu ideju. To znači da će sustav moći stvarati određeni erotski sadržaj. Pritom ostaje stroga zabrana štetnog sadržaja poput osvetničke pornografije i deepfake materijala.

Manje narančastih upozorenja

Korisnici će primijetiti i manje narančastih upozorenja o mogućem kršenju uvjeta korištenja. Laurentia Romaniuk iz OpenAI-jevog tima pojasnila je da žele smanjiti "nepotrebna odbijanja" upita.

Nick Turley, voditelj proizvoda za ChatGPT, dodao je da korisnici mogu slobodnije koristiti sustav, dok god poštuju zakone i ne nanose štetu drugima.

OpenAI je svoj Model Spec učinio javno dostupnim pod Creative Commons CC0 licencom, što znači da ga drugi razvojni timovi mogu slobodno koristiti i prilagođavati. No, ove promjene otvaraju i važna pitanja, posebno kako provjeriti dob korisnika kad platforma ne traži ni prijavu za korištenje. Nedavna tužba protiv Character.ai-ja zbog samoubojstva 14-godišnjaka koji je često koristio njihovog chatbota dodatno naglašava važnost ovog problema.

Trend ublažavanja moderacije očito postaje trend nakon što je Meta nedavno najavila značajno smanjenje moderiranja sadržaja na svojim platformama. Ipak, OpenAI tvrdi da zadržava neke granice, ChatGPT će i dalje odbijati odgovarati na pitanja koja promoviraju neistine ili mogu naštetiti drugima. Upitno je kako će AI odlučiti karakterizirati što je istina ili šteta.