Agenty AI logują się na konta bankowe. Banki w USA zaczynają je blokować

Zewnętrzni agenci AI, czyli programy wykonujące zadania w imieniu użytkownika, zaczęli pojawiać się na kontach klientów amerykańskich banków. Według ustaleń serwisu Axios, które przytoczył też Reuters, zjawisko dotyczy m.in. Morgan Stanley, Bank of America, JPMorgan i Wells Fargo. O sprawie napisał również TVN24.

Nie tylko włamania

Nie chodzi wyłącznie o dostęp bez wiedzy właściciela konta. Źródła Axios podają, że część agentów logowała się danymi klientów i za ich zgodą. Banki zwykle wymagają jednak, by użytkownik logował się samodzielnie, więc nawet taki scenariusz może naruszać ich zasady. Zgoda klienta nie rozwiązuje więc sprawy, bo to bank ustala, kto i jak może wejść na konto.

Największe obawy budzą agenci z uprawnieniami do robienia zakupów albo przenoszenia pieniędzy. Źródła serwisu opisują też przypadki, w których agenci kontaktowali się z centrami obsługi klienta lub robili rzeczy wyglądające na niezależne od poleceń użytkownika. Banki mają przy tym kłopot z rozstrzygnięciem, czy daną operację zainicjował klient, czy działający w jego imieniu program.

Blokady i tryb tylko do odczytu

Według Axios Morgan Stanley zaczął blokować zewnętrzne agenty AI na swoich platformach. JPMorgan, Bank of America i Citigroup również ograniczają dostęp takich narzędzi. Banking Exchange pisał kilka dni wcześniej, że Bank of America i Citi dołączyły do JPMorgan i Charles Schwab, które już wcześniej zamknęły drogę zewnętrznym agentom.

Część instytucji dopuszcza lub rozważa kompromis: dostęp wyłącznie do odczytu. Agent mógłby wtedy zobaczyć dane finansowe klienta, ale nie wykonałby samodzielnie żadnej operacji.

Dość jednoznacznie wypowiada się o tym szef JPMorgan. Jamie Dimon mówił, według Yahoo Finance: „Nie chcecie agentów, które wymkną się spod kontroli, a mogą ich być tysiące”. Z relacji CNBC z 13 października wynika, że JPMorgan nie zamierza pozwalać zewnętrznym agentom działać wewnątrz banku. Rzecznik banku poradził w odpowiedzi dla Axios, by klienci nie udostępniali nikomu nazwy użytkownika i hasła.

Obraz nie jest do końca spójny. Axios wymienia Morgan Stanley wśród banków, na których pojawiła się taka aktywność, a zarazem cytuje rzecznika tej instytucji. Ten twierdzi, że bank nie zaobserwował przypadków, w których nieautoryzowani agenci AI uzyskali dostęp do jego platform. Blokowanie agentów i brak wykrytych incydentów nie muszą się wykluczać, bo można zamykać drzwi prewencyjnie. Ze źródeł nie wynika jednak, jaka jest skala zjawiska.

Pytania regulatorów

Reuters informował wcześniej, że amerykańscy regulatorzy dopytują banki o kontrolę nad coraz bardziej autonomicznymi systemami AI. Interesują ich ograniczenia nakładane na agentów, monitorowanie i zatwierdzanie podejmowanych przez nich decyzji, możliwość audytów oraz zabezpieczenia przed przekraczaniem przyznanych uprawnień.

Te pytania pokazują, że debata przesuwa się z samego logowania na odpowiedzialność. Jeśli agent kupi coś, czego użytkownik nie chciał, albo przeleje pieniądze w sposób wykraczający poza polecenie, bank musi ustalić, kto za to odpowiada.