Toksični algoritam: TikTok potiče depresiju kod djece, EU mora reagirati

Novi izvještaj Amnesty Internationala optužio je platformu TikTok da izlaže mlade korisnike u Francuskoj depresivnom i suicidalnom sadržaju putem svog algoritma, unatoč pravilima Europske unije osmišljenima za zaštitu djece na internetu.

Studija pod nazivom ''Uvučeni u zečju rupu'' otkrila je da je TikTokov ''For You'' feed 13-godišnjacima prikazao uznemirujuće sadržaje već nakon nekoliko sati korištenja, stvarajući, kako Amnesty opisuje, ''toksični ciklus'' materijala povezanih s mentalnim zdravljem.

Istraživači su otvorili tri testna računa za tinejdžere u Francuskoj kako bi provjerili kako algoritam reagira na interes za teme mentalnog zdravlja. Već nakon pet minuta pojavljivali su se videozapisi o tuzi i razočaranju, nakon 15 minuta polovica sadržaja bila je depresivne prirode, a nakon 45 minuta dva računa prikazivala su videozapise sa spomenom suicidalnih misli.

''Naše istraživanje pokazuje koliko brzo TikTok može uvući ranjive tinejdžere u spiralu štetnog sadržaja. Dizajn platforme pojačava nevolju umjesto da štiti korisnike'', upozorila je Lisa Dittmer, istraživačica Amnestyja za digitalna prava djece i mladih.

Amnesty tvrdi da takve prakse TikToka krše Zakon EU-a o digitalnim uslugama (DSA), koji od platformi zahtijeva procjenu i smanjenje rizika za prava djece. Izvještaj poziva Europsku komisiju da uvede ''obvezujuće i učinkovite mjere'' kako bi se aplikacija učinila sigurnijom za maloljetnike.

U dokumentu su navedena svjedočanstva francuskih tinejdžera i roditelja koji tvrde da je platforma normalizirala samopovređivanje i suicidalne ideje. ''Postoje videozapisi koji su mi još uvijek urezani u sjećanje'', izjavila je 18-godišnja Maelle, koja je opisala kako joj se mentalno zdravlje pogoršalo nakon izloženosti takvom sadržaju.

Stephanie Mistre, majka djevojčice koja je počinila samoubojstvo 2021. godine, optužila je TikTok za ''pretvaranje djece u proizvode''. ''Oni koriste našu djecu kao proizvode, hvatajući njihove emocije kako bi ih zadržali online. Djeca imaju prava i ovo miješanje u njihov život je neprihvatljivo'', rekla je za Amnesty International.

TikTok, koji je u EU podložan Zakonu o digitalnim uslugama od 2023. godine, već se suočava s povećanim nadzorom europskih regulatora zbog rukovanja štetnim sadržajem. Amnesty tvrdi da, unatoč novim zaštitnim mjerama uvedenima 2024., platforma i dalje izlaže maloljetnike sadržaju koji glamurizira očaj i samopovređivanje.

''TikTokovo zanemarivanje sustavnih šteta povezanih s njegovim algoritmom izaziva ozbiljnu zabrinutost. Europska komisija mora odlučno djelovati kako bi zaštitila ranjive korisnike'', poručila je Katia Roux iz Amnesty France.