DFSA: banki pytają o dokładność modeli AI, a powinny o uprawnienia agentów

Dubai Financial Services Authority (DFSA) opublikował wspólnie z Cambridge Digital Innovation and Regulation Initiative (C:DIR) opracowanie „Frontier and agentic AI: cyber resilience in the financial sector”. Dokument DFSA i C:DIR analizuje, jak najbardziej zaawansowane modele AI i systemy agentowe, czyli takie, które korzystają z podłączonych narzędzi i działają w ramach przekazanych uprawnień, zmieniają warunki ochrony banków. Chodzi o cyberbezpieczeństwo, odporność operacyjną i ryzyko związane z zewnętrznymi dostawcami.

Jak ocenia Middle East AI News, instytucje finansowe zwykle sprawdzają, czy model jest dokładny i zatwierdzony, choć nie jest to właściwe pytanie. Ważniejsze jest, do czego system ma dostęp, co mu wolno i co się stanie, gdy coś pójdzie źle.

Cztery obszary ekspozycji

Opracowanie wskazuje cztery główne miejsca, w których firmy są narażone: oszustwo i podszywanie się, nadużycie danych uwierzytelniających, manipulowanie autoryzowanymi agentami oraz włamanie przez zaufane połączenia z podmiotami trzecimi. Modele z granicy możliwości mogą przyspieszać analizę podatności i wieloetapowe operacje w sieci. Systemy agentowe dokładają do tego zdolność wybierania kroków, używania narzędzi i wykonywania działań w systemach samej instytucji. DFSA ostrzega też, że atakujący i obrońcy nie rozwijają się w tym samym tempie.

Cztery testy odporności

Do oceny gotowości dokument proponuje cztery miary.

• Szybkość – czy firma potrafi bezpiecznie ograniczyć poważną ekspozycję, zanim dojdzie do szkód. Szybsze wykrycie nie oznacza szybszej, bezpiecznej poprawki, bo trzeba jeszcze znaleźć dotknięte systemy, przetestować zmiany i utrzymać krytyczne usługi.
• Zasięg – czy firma rozumie wspólne zależności poza bezpośrednimi dostawcami: te same modele AI, usługi chmurowe, tożsamościowe i ścieżki odtwarzania. Jedna awaria może uderzyć w kilka procesów naraz, a kopie zapasowe mogą nie być niezależne.
• Uprawnienia – czy działania AI mieszczą się w zamierzonym mandacie. System może działać w granicach technicznych uprawnień i mimo to dać wynik, którego nikt nie chciał, więc same kontrole dostępu nie wystarczą.
• Zaufanie – czy firma ustali, co się stało, zatrzyma niedokończone działania i bezpiecznie wznowi pracę. Zatrzymanie agenta nie anuluje zleconych wcześniej instrukcji ani nie cofa wykonanych czynności, a przywrócone usługi mogą wciąż skrywać zmienione ustawienia lub niespójne rekordy.

Ten ostatni wątek zgadza się z tym, o czym pisaliśmy 29 września w tekście „Wykryć nie znaczy zatrzymać”, dotyczącym firm w ZEA. Z kolei test szybkości wiąże się z tematem z 21 września: skrócenia czasu na łatanie błędów w bankach.

Dowodów wciąż za mało

DFSA zastrzega, że testy w kontrolowanych warunkach i zgłoszone incydenty pokazują rosnące możliwości, ale nie pozwalają wiarygodnie oszacować, jak często dochodzi do incydentów, ile kosztują i jak szeroko się rozprzestrzeniają. Potrzebne są więc bardziej wymagające testy i ciągłe przygotowanie. Obecne ramy zarządzania i ryzyka pozostają fundamentem obrony, ale wymagają mocniejszych dowodów. Termin załatania podatności nie dowodzi, że ekspozycja spadła, a zróżnicowana lista dostawców nie dowodzi, że plany awaryjne działają.

To kolejny krok DFSA w tym temacie. Regulator opublikował już raport o cyberryzyku i AI w usługach finansowych, w którym wskazywał na rosnącą częstotliwość i wyrafinowanie cyberataków, także tych wynikających z zależności w łańcuchu dostaw. Nowe opracowanie przesuwa nacisk z samych modeli na uprawnienia agentów i możliwość odzyskania kontroli po incydencie.