Google: AI po raz pierwszy stworzyło exploit zero-day

Koniec spekulacji o tym, czy AI potrafi samodzielnie uzbroić lukę w zabezpieczeniach. Google właśnie potwierdziło, że po raz pierwszy w historii wykryto atak typu zero-day, którego fundamentem był kod wygenerowany przez sztuczną inteligencję. Nie była to próba teoretyczna, lecz realne uderzenie wymierzone w webowe narzędzie administracyjne open source.

Kod zbyt idealny, by napisał go człowiek

Sprawcy wykorzystali skrypt w Pythonie do złamania zabezpieczeń 2FA (dwuskładnikowego uwierzytelniania). Ironią losu jest fakt, że to właśnie rzekome „zalety” modeli językowych – jak porządek w strukturze i nadgorliwość w dokumentowaniu – stały się cyfrowym odciskiem palca zostawionym na miejscu przestępstwa.

Eksperci z Google Threat Intelligence Group (GITG) oraz Mandiant zwrócili uwagę na nienaturalną, wręcz podręcznikową czystość kodu. Podczas gdy ludzcy hakerzy zazwyczaj piszą skrypty „na szybko” i w sposób niechlujny, ten exploit posiadał:

• Unikalną klasę _C ANSI color do formatowania wyników w terminalu.
• Rozbudowane menu pomocy i zbędne komentarze edukacyjne przy każdym module.
• Zmyśloną punktację CVSS, którą AI wygenerowało, próbując udawać profesjonalny raport bezpieczeństwa.

To nie Gemini było sprawcą

Google stanowczo odcina się od sugestii, że to ich autorski model został użyty do stworzenia zagrożenia. Firma przyznaje jednak otwarcie: sprawca z dużą pewnością wykorzystał LLM do odkrycia i uzbrojenia podatności, co drastycznie skraca czas potrzebny na przejście od znalezienia luki do przeprowadzenia masowego ataku.

Państwowe armie botów

To nie jest zabawa hakerów-amatorów w garażu. Raport ujawnia, że po narzędzia AI sięgają grupy sponsorowane przez rządy Chin i Korei Północnej. Podejście jest systemowe i przerażająco efektywne.

Chińska grupa UNC2814 opanowała do perfekcji technikę jailbreak opartą na personie. Zamiast pytać wprost o stworzenie exploita, każą sztucznej inteligencji wcielać się w starszego audytora bezpieczeństwa, co pozwala ominąć filtry bezpieczeństwa modelu. Z kolei północnokoreańska grupa APT45 zalewa systemy tysiącami powtarzalnych promptów, analizując tysiące CVE (Common Vulnerabilities and Exposures) w czasie, który dla człowieka byłby fizycznie nieosiągalny.

AI nie tworzy nowych metod ataku, ale przemysłowo skaluje te istniejące.

Sceptycznym okiem: Czy to już kryzys?

Choć Google współpracowało z dostawcą oprogramowania, aby zablokować masowe wykorzystanie luki, incydent ten zmienia paradygmat obrony. Jeśli AI potrafi wygenerować funkcjonalny exploit zero-day, systemy oparte na sygnaturach stają się bezużyteczne. Czeka nas wyścig zbrojeń, w którym skrypt walczy ze skryptem, a człowiek pełni jedynie rolę obserwatora tego cyfrowego starcia.