Umjetna inteligencija je drugi najveći poslovni rizik

Umjetna inteligencija (AI) popela se s desetog na drugo mjesto svjetske ljestvice najvećih poslovnih rizika, pokazalo je u srijedu istraživanje osiguravateljske kuće Allianz.

Veći rizik od umjetne inteligencije kompanijama predstavlja samo kibernetički kriminal, koji već godinama zauzima prvo mjesto, pokazalo je najnovije Allianzovo godišnje izvješće “Barometar rizika”, piše Hina.

Netočno i lažno

Dva su rizika sve češće povezana budući da se kriminalci sve više koriste umjetnom inteligencijom kako bi usavršili napade, stoji u izvješću.

No, umjetna inteligencija može predstavljati rizik čak i ako iza nje ne stoje kriminalni motivi, primjerice, ako poslovođe ili zaposlenici donose odluke na temelju netočnih ili lažnih podataka dobivenih od umjetne inteligencije, ističe se.

U anketi koju je Allianz proveo od listopada do studenog prošle godine sudjelovalo je 3.338 ispitanika iz 97 zemalja, uključujući direktore kompanija, savjetnike za rizik i potraživanja, brokere, stručnjake iz sektora osiguranja te zaposlenike Allianza.

Ocjene rizika razlikuju se od zemlje do zemlje pa je tako umjetna inteligencija u Njemačkoj zauzela četvrto mjesto, u Švicarskoj drugo, a u Austriji prvo.

Poslovni čelnici u Hrvatskoj suglasni su da je najveća prijetnja kibernetički kriminal, a izdvojili su i prirodne katastrofe, pokazuje izvješće.

Povjerljivi podaci

Umjetna inteligencija predstavlja rizik, ali u većini kompanija smatraju da će im ta tehnologija otvoriti nove mogućnosti, primjerice, za automatiziranu obranu od kibernetičkih napada.

Iz Allianza pak upozoravaju da se kibernetički kriminalci sve više koriste umjetnom inteligencijom kako bi od pojedinaca izvukli povjerljive podatke ili kako bi zaposlenike pomno smišljenim porukama e-pošte, kloniranjem glasa ili čak deepfake videozapisima uvjerili da komuniciraju sa šefom.

Većina kibernetičkih napada ipak i dalje iziskuje ljudsku ruku, obično zaposlenika koji omogućuje napad, rekao je Michael Daum, čelnik odjela za potraživanje šteta od kibernetičkih napada u osiguravateljskoj kući Allianz Commercial.

Upotreba umjetne inteligencije u poslovanju kompanija predstavlja pak rizik jer ta tehnologija radi s određenom razinom autonomije, što znači da njezini rezultati mogu biti netočni ili sasvim neutemeljeni u stvarnosti, ističe stručnjakinja iz Allianz Commerciala Alexandra Braun.

Ostali rizici

Pogreške ili pristrani rezultati mogu dovesti do tužbi, negativnih medijskih izvještaja ili štete za ugled kompanije. Umjetna inteligencija može i kršiti autorska prava ako reproducira zaštićene materijale bez dozvole.

Prema Allianzovom istraživanju, na trećem su mjestu ljestvice najvećih rizika za kompanije prekidi u poslovanju, na četvrtom promjene zakona i regulative, a na petom prirodne katastrofe.

Poslovni čelnici izdvojili su među najvećim prijetnjama i klimatske promjene, političke rizike i nasilje, poput ratova, političke nestabilnosti, državnih udara i nemira, makroekonomske trendove, požare i eksplozije i prilike na tržištu, poput žešće konkurencije, spajanja i akvizicija i stagnacije prodaje.