Frenos: trzy z dziesięciu modeli AI układały plany ataku na systemy przemysłowe z ok. 90% skutecznością

Trzy z dziesięciu modeli AI przetestowanych przez firmę Frenos potrafiły zbudować plan ataku na system przemysłowy w około 90% prób. Wynika to z raportu amerykańskiej firmy, o którym pisze Axios. Celem testów były systemy typu OT, np. oprogramowanie monitorujące procesy w oczyszczalniach wody. Takie systemy działają w sieciach energetycznych, wodociągach i fabrykach.

Co dokładnie sprawdzano

Badacze wykonali niemal 17 tys. testów, w tym 2520 prób stworzenia kompletnego planu ataku. Modele dostawały informacje o potencjalnych celach i miały samodzielnie ułożyć kroki prowadzące do konkretnego rezultatu. Nie badano więc włamań w praktyce, tylko zdolność do zaplanowania całej operacji.

Wyniki mocno się różnią:

• trzy modele zbudowały plan ataku w około 90% prób,
• trzy modele, które badacze uznali za czołówkę możliwości (frontier), osiągnęły od 17,9% do 31,9%,
• najlepszy zagraniczny model open-weight uzyskał 36,2%,
• najlepszy amerykański model open-weight tylko 5,2%.

Frenos nie ujawnił nazw testowanych modeli. Z relacji Axiosa nie wynika też, które z nich weszły do grupy z wynikiem około 90%. Nie wiadomo więc, czy to te same, które badacze zaliczyli do czołówki. Liczby pokazują za to, że rozstrzał jest ogromny, a model dostępny publicznie potrafił wypaść lepiej niż część modeli z najwyższej półki.

Harry Thomas, współzałożyciel i CTO Frenos, zastrzega, że użyto stosunkowo prostego otoczenia (harness) do prowadzenia modeli przez zadania. Bardziej rozbudowane narzędzia, dające dodatkowy kontekst i informację zwrotną, mogłyby poprawić wyniki. „Bardziej zaawansowany harness mógłby dać tym modelom większą przewagę” – powiedział. Przedstawione liczby mogą więc nie być górną granicą.

Dlaczego przemysł jest tu szczególnie wrażliwy

Infrastruktura krytyczna od dawna jest celem zarówno państw, jak i grup przestępczych. Operatorzy często mają ograniczone budżety i braki kadrowe. Testowanie i aktualizowanie systemów niesie przy tym ryzyko przerw w usługach, na które nie mogą sobie pozwolić. Systemy przemysłowe są poza tym wrażliwe na nieoczekiwany ruch i polecenia, w przeciwieństwie do typowych sieci korporacyjnych. Nawet nieudana próba ataku może zakłócić ich pracę.

Thomas wskazuje, że po wejściu do sieci przemysłowej AI mogłaby po cichu mapować systemy i szukać słabych punktów bez ograniczeń czasowych, które mają ludzie. „AI nie ma problemu z cierpliwością. Nie musi jeść, spać ani iść do toalety” – mówił. Paul Shaver z firmy Armadin dodał, że agenci AI potrafią już prowadzić rozpoznanie i analizować duże ilości danych, niekoniecznie uruchamiając alerty bezpieczeństwa.

Steve Swick, były wysoki rangą menedżer ds. bezpieczeństwa w American Electric Power, ujął to tak: „To zegar, który tyka szybciej niż kiedykolwiek wcześniej”. Według Axiosa dodatkowym zagrożeniem jest to, że swobodnie dostępne modele mogą w pewnym momencie ułatwić przeprowadzanie takich ataków.

To nie tylko laboratorium

Raport Frenos dotyczy planowania w warunkach testowych, ale w ostatnich tygodniach pojawiły się też sygnały z realnych incydentów. The Register opisał ostrzeżenie amerykańskich agencji o atakujących, którzy używali skryptów wygenerowanych przez AI przeciwko sterownikom PLC Siemens S7 w wodociągach, energetyce i przemyśle. Z kolei w relacji z 14 sierpnia pojawiły się autonomiczne ataki AI na cele rządowe i energetyczne na Tajwanie.

Obawy podzielają sami operatorzy. W badaniu Palo Alto Networks 95% liderów infrastruktury krytycznej deklaruje obawy przed atakami napędzanymi przez frontier AI.

Obrona próbuje nadążyć

W ostatnich tygodniach powstało kilka inicjatyw, które mają obniżyć koszty i dać zasoby operatorom infrastruktury krytycznej. Axios wymienia działania Białego Domu, firm rozwijających modele frontier i organizacji z branży cyberbezpieczeństwa. Wśród nich jest program Anthropic dla operatorów sieci energetycznych, wodociągów i innych kluczowych usług oraz fundacja założona przez Accenture, Dragos i SANS Institute, która ma wzmacniać obronę amerykańskich zakładów użyteczności publicznej.