AI chatbotovi povjerovali u potpuno lažnu medicinsku dijagnozu

Istraživanje koje je pokrenula švedska znanstvenica s University of Gothenburg pokazalo je kako su vodeći AI chatbotovi, uključujući OpenAI ChatGPT, prihvatili i širili potpuno izmišljenu bolest nazvanu ‘‘Bixonimania’’, iako je cijeli eksperiment od početka bio osmišljen kao očita prevara.

Prema pisanju znanstvenog časopisa Nature, istraživačica Annika Osmanovic Thunström 2024. godine namjerno je osmislila fiktivnu bolest s besmislenim nazivom ‘‘Bixonimania’’ kako bi provjerila na koji način umjetna inteligencija obrađuje lažne medicinske informacije.

Naziv bolesti bio je potpuno izmišljen, a objavljena su i dva lažna znanstvena rada s generiranim fotografijama pacijenata i izmišljenim statistikama. Cilj eksperimenta bio je vidjeti hoće li AI sustavi prepoznati očite znakove prevare.

Dogodilo se upravo suprotno.

Već nekoliko dana nakon objave lažnih radova, Microsoftov Copilot opisivao je ‘‘Bixonimaniju’’ kao rijetko medicinsko stanje, dok je Google Gemini tvrdio da bolest uzrokuje pretjerano izlaganje plavom svjetlu i korisnicima preporučivao pregled kod oftalmologa.

Prema navodima istraživanja, i ChatGPT je korisnicima davao odgovore o simptomima i mogućem podudaranju s izmišljenom bolešću.

Posebno zabrinjava činjenica da je jedan znanstveni rad objavljen u medicinskom časopisu Cureus, koji izdaje Springer Nature, citirao lažne radove o ‘‘Bixonimaniji’’ kao stvarne izvore. Tek nakon što je eksperiment postao javan, rad je povučen.

Istraživanje dodatno otvara pitanje pouzdanosti AI chatbotova u području medicine.

Prema podacima koje navodi OpenAI, više od 40 milijuna ljudi svakodnevno koristi ChatGPT za zdravstvene informacije, dok je američka neprofitna organizacija ECRI pogrešnu upotrebu chatbotova proglasila najvećom zdravstveno-tehnološkom prijetnjom za 2026. godinu.

Studija objavljena u časopisu BMJ Open u travnju 2026. pokazala je kako gotovo polovica odgovora vodećih AI chatbotova na zdravstvena pitanja sadrži netočne ili problematične informacije.

Alex Ruani s University College London izjavio je za Nature kako je eksperiment s ‘‘Bixonimanijom’’ pokazao koliko lako dezinformacije mogu proći kroz AI sustave.

‘‘Pravo pitanje nije kako je prošla očito lažna bolest, nego što sve prolazi kroz iste sustave, a da nije toliko lako prepoznati’’, upozorio je Ruani.