Algoritmi koji hrane bijes: Zviždači otkrivaju što se stvarno događa na Facebooku i TikToku
Zviždači iz velikih tehnoloških kompanija tvrde da su društvene mreže svjesno dopuštale više štetnog sadržaja kako bi povećale angažman korisnika. Prema navodima više od desetak insajdera koji su govorili u BBC-jevom dokumentarcu ''Inside the Rage Machine'', kompanije poput Mete i TikToka donosile su odluke koje su povećavale vidljivost sadržaja koji izaziva bijes, jer upravo takav sadržaj generira više interakcija.
Jedan inženjer iz Mete rekao je da je menadžment naložio dopuštanje više ''granično štetnog'' sadržaja u korisničkim feedovima kako bi konkurirali TikToku. Takav sadržaj uključuje mizoginiju, teorije zavjere i druge objave koje nisu ilegalne, ali mogu biti štetne.
Bivši istraživač Mete Matt Motyl tvrdi da je Instagram Reels pokrenut 2020. bez dovoljno sigurnosnih mehanizama. Interna istraživanja pokazala su da su komentari na Reelsu imali znatno više uznemiravanja i govora mržnje nego ostatak Instagrama – 75 posto više bullyinga i uznemiravanja, 19 posto više govora mržnje te sedam posto više sadržaja koji potiče nasilje.
Prema dokumentima koje je Motyl podijelio s BBC-jem, Facebook je bio svjestan da algoritmi često potiču sadržaj koji izaziva ljutnju jer takav sadržaj povećava angažman korisnika. ''Algoritmi pretpostavljaju da korisnici žele više sadržaja koji izaziva snažne reakcije'', navodi se u jednom internom izvješću.
Zaposlenik TikToka iz sigurnosnog tima, kojeg BBC naziva Nick, rekao je da su neki slučajevi vezani uz političare dobivali veći prioritet od prijava koje uključuju maloljetnike. Prema njegovim riječima, kompanija želi održati dobre odnose s političarima kako bi izbjegla regulaciju ili zabrane.
Nick tvrdi da je količina štetnog sadržaja povezanog s nasiljem, seksualnom ucjenom i ekstremizmom sve veća, dok moderatori teško uspijevaju pratiti broj prijava.
TikTok i Meta odbacili su optužbe zviždača. Meta navodi da ima stroge politike zaštite korisnika, dok TikTok tvrdi da ulaže u tehnologiju koja sprječava prikazivanje štetnog sadržaja te da računi za tinejdžere imaju više od 50 sigurnosnih postavki.
