Modele językowe jako narzędzie cyberataków: Nowe badania budzą niepokój i nadzieję

Współczesne badania nad sztuczną inteligencją raz po raz zaskakują skalą możliwości nowo opracowywanych algorytmów. Ostatnie doniesienia z Carnegie Mellon University, powstałe we współpracy z firmą Anthropic, rzucają nowe światło na potencjał dużych modeli językowych (LLM). Okazuje się, że systemy te, odpowiednio skonfigurowane, zdolne są do autonomicznego planowania i przeprowadzania złożonych cyberataków, które odzwierciedlają realne zagrożenia.

Badacze wykazali, że LLM może symulować autentyczne włamania, działając bez potrzeby ludzkiej interwencji. W ramach testów, jeden z modeli zdołał pomyślnie odtworzyć scenariusz ataku, który doprowadził do głośnego wycieku danych z Equifax w 2017 roku. System autonomicznie identyfikował i wykorzystywał luki bezpieczeństwa, instalował złośliwe oprogramowanie, a następnie uzyskiwał dostęp do wrażliwych danych.

Brian Singer, główny badacz projektu, podkreśla, że wyniki te znacząco wykraczają poza dotychczasowe postrzeganie możliwości LLM. „Nasze badania pokazują, że przy odpowiednich abstrakcjach i wskazówkach, LLM-y mogą wykraczać daleko poza podstawowe zadania” – komentuje Singer. – „Są w stanie koordynować i wykonywać strategie ataków, które odzwierciedlają złożoność prawdziwego świata.”

Analiza procesu ataku wykazała, że cyberoperacje prowadzone przez LLM często obejmowały kombinację agentów opartych na dużych modelach językowych oraz tych, które takich modeli nie używały. Ich zadania były różnorodne – od strategicznego planowania ataku, przez skanowanie sieci w poszukiwaniu luk, aż po samo wdrożenie eksploitów.

Mimo tych alarmujących wniosków, Singer uspokaja, że na obecnym etapie systemy te mają charakter prototypowy i nie stanowią natychmiastowego zagrożenia w skali globalnej. „To nie jest coś, co jutro zrujnuje internet” – wyjaśnia badacz. – „Scenariusze są ograniczone i kontrolowane, ale jest to potężny krok naprzód.” Jego zdaniem, wyniki badań, choć budzą obawy dotyczące potencjalnego nadużycia LLM w cyberprzestrzeni, jednocześnie otwierają drzwi do rozwoju bardziej zaawansowanych systemów obronnych.

Singer zwraca uwagę na fakt, że obecnie tylko największe organizacje stać na regularne przeprowadzanie tak zwanych ćwiczeń „red teamingu”, mających na celu proaktywne testowanie ich zabezpieczeń. „To badanie wskazuje na przyszłość, w której systemy AI będą w sposób ciągły testować sieci pod kątem luk, czyniąc te zabezpieczenia dostępnymi również dla małych firm” – wskazuje. Zespół z Carnegie Mellon planuje już kolejne kroki, w tym badanie, w jaki sposób podobne architektury mogą wspierać autonomiczne systemy obrony oparte na sztucznej inteligencji, z agentami LLM wykrywającymi i reagującymi na ataki w czasie rzeczywistym. „Wchodzimy w erę AI kontra AI w cyberbezpieczeństwie” – podsumowuje Singer. – „Musimy zrozumieć obie strony, aby pozostać na przedzie.”