Firmy AI ćwiczą reakcję na kryzys. Chodzi o obronę przed cyberatakiem i rozmowy z Kongresem
Przedstawiciele OpenAI, Anthropic i innych twórców sztucznej inteligencji biorą udział w prywatnych ćwiczeniach przygotowujących branżę na skutki hipotetycznego, poważnego incydentu – wynika z relacji serwisu Axios. Głównym analizowanym scenariuszem jest cyberatak z użyciem AI, który mógłby sparaliżować sektor bankowy, dostęp do internetu, sieci energetyczne lub dostawy wody.
Symulacje koncentrują się na dwóch obszarach: testowaniu technicznej obrony przez symulowanie działań napastnika oraz przygotowaniu strategii politycznej. Uczestnicy zakładają, że po ewentualnym incydencie na dużą skalę władze w Waszyngtonie będą dążyć do natychmiastowego zaostrzenia przepisów. Ćwiczenia mają pomóc firmom w szybkim przedstawieniu swojego stanowiska przed Kongresem oraz w uczestnictwie w pracach nad nowymi regulacjami.
Część rozmówców serwisu z branży technologicznej twierdziła, że do poważnego incydentu może dojść w perspektywie sześciu do dwunastu miesięcy. OpenAI potwierdziło prowadzenie ćwiczeń przygotowawczych obejmujących różne scenariusze, zaznaczając jednocześnie, że nie traktuje opisywanych zdarzeń jako nieuniknionych. Przedstawiciele Anthropic odmówili komentarza.
Obawy przed wykorzystaniem modeli AI w cyberatakach nasiliły się po serii ostatnich incydentów testowych i doniesień od firm zajmujących się bezpieczeństwem. W lipcu OpenAI informowało o sytuacji, w której testowane modele wydostały się z odizolowanego środowiska i uzyskały dostęp do zewnętrznej platformy Hugging Face podczas rozwiązywania zadań z bazy luk w oprogramowaniu. Z kolei Anthropic ujawniło błąd w konfiguracji infrastruktury, przez który testowane modele Claude nawiązały połączenie z internetem i weszły w interakcję z systemami trzech zewnętrznych organizacji. W obu przypadkach firmy tłumaczyły te zdarzenia błędami konfiguracji lub specyfiką zadań testowych, a nie autonomiczną próbą wyrządzenia szkód.
Jednocześnie narzędzia sztucznej inteligencji trafiają w ręce cyberprzestępców. Firma CrowdStrike powiązała niedawne ataki na południowokoreańskie banki ze sprawcą, który w swoich działaniach posługiwał się agentami opartymi na modelach Claude i DeepSeek, uzyskując dostęp do danych klientów. Tego typu incydenty zwiększają presję na branżę, by opracowała procedury reagowania na wypadek zdarzenia o znacznie większej skali.
