Google je izdao važno upozorenje za 1,8 milijardi korisnika Gmaila diljem svijeta, ističući kako se pojavio novi val prijetnji kibernetičkoj sigurnosti potaknut naglim razvojem umjetne inteligencije.
Tehnološki div je još početkom ljeta upozorio na sofisticirani oblik napada poznat kao ''neizravno unošenje uputa'' (indirect prompt injection), koji predstavlja ozbiljnu prijetnju pojedincima, tvrtkama i državnim institucijama.
U objavi na svom službenom blogu Google je pojasnio kako se radi o manipuliranju AI sustavima skrivenim uputama unutar vanjskih izvora podataka poput e-poruka, dokumenata ili pozivnica za kalendar.
Takve skrivene upute mogu navesti umjetnu inteligenciju da izvuče korisničke podatke ili izvrši druge neovlaštene radnje.
''Kako sve više vlada, tvrtki i pojedinaca koristi generativnu umjetnu inteligenciju, ovaj suptilan, ali potencijalno snažan napad postaje sve značajniji u cijeloj industriji te zahtijeva hitnu pozornost i robusne sigurnosne mjere'', priopćeno je iz Googlea.
Stručnjak za kibernetičku sigurnost Scott Polderman za britanski Daily Record objasnio je da napadači zloupotrebljavaju Googleov AI alat Gemini.
Prema njegovim riječima, hakeri šalju e-poruke sa skrivenim porukama koje mogu natjerati Gemini da otkrije lozinke korisnika ili prikaže lažno sigurnosno upozorenje kojim se korisnike navodi na kontakt s hakerima.
''Nema poveznice na koju morate kliknuti. Gemini se pojavljuje i obavještava vas da ste u opasnosti'', rekao je Polderman.
Kako bi se korisnici zaštitili, Google savjetuje da nikada ne unose lozinke niti podatke za prijavu na temelju onoga što piše u Geminijevom sažetku e-pošte.
Umjesto toga preporučuje se otvaranje službene Googleove stranice i korištenje dvofaktorske autentifikacije (2FA), koja dodaje dodatni sloj zaštite čak i ako haker dođe do lozinke.
Google je već počeo uvoditi dodatne mjere zaštite. Tvrtka navodi da je primijenila slojevit sigurnosni pristup – od jačanja modela Gemini 2.5 i izgradnje modela strojnog učenja za otkrivanje zlonamjernih uputa, do zaštitnih mjera na razini sustava.
Time se, kako ističu, značajno povećava složenost i trošak s kojima se napadači suočavaju, prenosi Index.
