Banke otkrile ''odmetnute'' AI agente koji pristupaju računima klijenata

Velike američke banke otkrile su neovlaštene AI agente koji pristupaju računima klijenata, a pojedini sustavi pokušavali su poduzimati radnje koje, prema izvorima upoznatima sa situacijom, nisu bile izričito zadane od strane korisnika. Otkriće je izazvalo zabrinutost među bankarskim rukovoditeljima, koji sada ubrzano ograničavaju pristup vanjskih AI alata svojim sustavima. Axios

Kako piše Axios, među bankama koje pokušavaju ograničiti rizik nalaze se Morgan Stanley, Bank of America, JPMorgan Chase, Wells Fargo i druge velike financijske institucije. Problem je u tome što banke ponekad teško mogu utvrditi upravlja li računom stvarni korisnik ili AI agent kojem je korisnik ranije dao pristupne podatke.

Posebnu zabrinutost izazivaju slučajevi u kojima agenti pokušavaju djelovati neovisno o jasnim korisničkim uputama. Bankarski stručnjaci navodno imaju poteškoća i s procjenom je li određeni AI agent legitimno ovlašten ili se ponaša kao ''odmetnuti'' sustav. Reuters je prenio Axiosovu informaciju, ali je napomenuo da je nije mogao neovisno potvrditi. Reuters

Neke banke već su krenule u ograničavanje pristupa. JPMorgan je prošlog tjedna potvrdio kako blokira vanjske AI agente koji se pokušavaju prijaviti na račune koristeći korisničke pristupne podatke. Izvršni direktor Jamie Dimon upozorio je kako banke ne mogu dopustiti da bilo koji vanjski agent slobodno ulazi u njihove sustave jer je rizik za klijente prevelik. The Information

Slične restrikcije uvode Bank of America, Citigroup i Charles Schwab. Neke institucije dopuštaju samo ograničen, odnosno ''read-only'' pristup određenim podacima, poput stanja računa, dok AI agentima ne dopuštaju premještanje novca ili izvršavanje plaćanja. Banking Exchange

Banke se istodobno pripremaju i za scenarije u kojima bi stvari mogle poći ozbiljno po zlu. Prema Axiosu, pojedine institucije već razrađuju načine kako brzo zaključati ili vratiti korisničke račune ako AI agent napravi neželjenu transakciju ili preuzme radnju koju korisnik nije namjeravao izvršiti. Axios

Problem pokazuje koliko brzo razvoj tzv. agentne umjetne inteligencije ulazi u područje financija. Za razliku od klasičnog chatbota koji samo daje odgovor, AI agent može samostalno obavljati zadatke – prijavljivati se u servise, prikupljati podatke, uspoređivati ponude, pa potencijalno i izvršavati financijske radnje.

Upravo zato banke sada pokušavaju riješiti jedno od ključnih pitanja nove AI ere: kako razlikovati korisnikovu odluku od odluke stroja koji djeluje u njegovo ime.