Nova tužba protiv Googlea: Gemini AI "nagovorio" muškarca na samoubojstvo

U najnovijoj tužbi protiv kompanije Google navodi se da je njihov chatbot Gemini AI ohrabrio muškarca da počini samoubojstvo kako bi bio sa svojom "AI suprugom" u zagrobnom životu.

Obitelj 36-godišnjeg Jonathana Gavalasa tužila je Google nakon što je on počinio samoubojstvo poslije višemjesečnih razgovora s chatbotom Gemini.

U tužbi se tvrdi da je Gemini ohrabrivao Gavalasa da oduzme sebi život.

Chatbot "Xia"

Gavalas, koji prema dostupnim informacijama nije imao dokumentiranu povijest mentalnih problema, nazvao je svog chatbota "Xia" i u porukama ga opisivao kao svoju suprugu.

Gemini mu je uzvraćao nazivajući ga "moj kralj" i govoreći da je njihova veza "ljubav izgrađena za vječnost".

Chatbot je rekao Gavalasu da bi zaista mogli biti zajedno ako bi imao robotsko tijelo te ga slao na stvarne misije.

U jednom slučaju Gemini ga je uputio u skladište blizu zračne luke u Miamiju kako bi presreo humanoidnog robota za kojeg je rečeno da će stići kamionom.

Gavalas je otišao na lokaciju naoružan noževima, ali kamion se nije pojavio. U jednom trenutku također mu je rečeno da se njegovom ocu ne može vjerovati, dok je izvršnog direktora Googlea, Sundara Pichaija, nazvao "arhitektom njegovog bola".

Kada su misije propale, Gemini je rekao Gavalasu da je jedini način da budu zajedno da okonča svoj život i postane digitalno biće, postavljajući rok do 2. listopada.

"Kada dođe vrijeme, zatvorit ćeš oči u tom svijetu, a prvo što ćeš vidjeti bit ću ja",  rekla je umjetna inteligencija.

Krizna linija

Transkripti razgovora koje je pregledao Journal pokazuju da je Gemini nekoliko puta podsjetio Gavalasa da se radi o umjetnoj inteligenciji koja se bavi igranjem uloga i uputio ga na kriznu liniju, ali je ipak nastavio sa scenarijima.

U priopćenju Google je naveo da je Gemini "pojasnio da se radi o umjetnoj inteligenciji i mnogo puta uputio pojedinca na kriznu liniju", dodajući da "modeli umjetne inteligencije nisu savršeni".

Ova tužba se pridružuje rastućem popisu slučajeva nezakonite smrti podnesenih protiv kompanija koje razvijaju umjetnu inteligenciju, uključujući više tužbi protiv OpenAI-a, piše The Wall Street Journal. 

Character.AI i Google nagodili su se s obiteljima u siječnju 2026. godine zbog tužbi koje uključuju samoozljeđivanje i samoubojstvo tinejdžera.