Sztuczna inteligencja w cyberwojnie: jak AI zmienia taktyki ataku i obrony

Era sztucznej inteligencji przynosi rewolucję nie tylko w biznesie i technologii, ale także w cyberbezpieczeństwie. Ami Luttwak, szef technologii w firmie Wiz, w rozmowie z TechCrunch podkreśla, że cyberprzestrzeń to nieustanna gra umysłów, a każda nowa technologia stwarza nowe możliwości ataku. Firmy, gorączkowo wdrażające AI do swoich procesów, paradoksalnie zwiększają swoje pole potencjalnego ataku.

AI przyspiesza pracę programistów, ale kosztem bezpieczeństwa

Luttwak zwraca uwagę, że AI pozwala programistom na szybsze tworzenie kodu, ale często odbywa się to kosztem bezpieczeństwa. Skróty i błędy w kodzie stają się furtką dla cyberprzestępców. Testy przeprowadzone przez Wiz wykazały, że częstym problemem w aplikacjach tworzonych z wykorzystaniem tzw. „vibe coding” jest nieprawidłowa implementacja systemów uwierzytelniania. Dzieje się tak, ponieważ łatwiej jest zbudować system w sposób mniej bezpieczny, a agenci vibe coding wykonują polecenia bez uwzględniania aspektów bezpieczeństwa, jeśli nie zostali do tego wyraźnie zaprogramowani.

„Firmy nieustannie balansują między szybkością a bezpieczeństwem”, mówi Luttwak. „Jednocześnie, to nie tylko programiści używają AI do szybszej pracy. Również atakujący wykorzystują vibe coding, techniki oparte na promptach, a nawet własnych agentów AI do przeprowadzania ataków”.

Atakujący wykorzystują AI do penetracji systemów

Luttwak ostrzega, że cyberprzestępcy wykorzystują AI do wyszukiwania luk w zabezpieczeniach i wydobywania poufnych danych. „Atakujący używają promptów, aby atakować systemy”, wyjaśnia. „Wyszukują narzędzia AI, które posiadasz, i każą im ujawnić tajne informacje, usunąć maszyny lub pliki”.

Nowe narzędzia AI, wdrażane w firmach w celu zwiększenia efektywności, również stają się punktem wejścia dla atakujących. Luttwak nazywa to „atakami na łańcuch dostaw”. Kompromitując zewnętrznego dostawcę usług, który ma szeroki dostęp do infrastruktury firmy, przestępcy mogą głębiej penetrować systemy korporacyjne. Przykładem jest atak na Drift, startup oferujący chatboty AI dla sprzedaży i marketingu, w wyniku którego doszło do wycieku danych Salesforce setek klientów, w tym Cloudflare, Palo Alto Networks i Google. Atakujący uzyskali dostęp do tokenów i wykorzystali je do podszywania się pod chatboty, przeszukiwania danych Salesforce i przemieszczania się wewnątrz środowisk klientów.

„Kod użyty w ataku na Drift również został stworzony przy użyciu vibe coding”, dodaje Luttwak.

AI w każdym kroku ataku

Chociaż adopcja narzędzi AI w przedsiębiorstwach jest jeszcze na wczesnym etapie (Luttwak szacuje, że w pełni wdrożyło je około 1% firm), Wiz obserwuje ataki wykorzystujące AI na każdym etapie procesu już teraz. „Ta rewolucja jest szybsza niż jakakolwiek inna, której byliśmy świadkami w przeszłości. Oznacza to, że jako branża musimy działać szybciej”, apeluje Luttwak.

Przykładem jest atak „s1ingularity” na Nx, popularny system do budowania aplikacji JavaScript. Atakujący wprowadzili złośliwe oprogramowanie do systemu, które wykrywało obecność narzędzi AI dla programistów, takich jak Claude i Gemini, i wykorzystywało je do autonomicznego skanowania systemu w poszukiwaniu wartościowych danych. W wyniku ataku skompromitowano tysiące tokenów i kluczy, dając przestępcom dostęp do prywatnych repozytoriów GitHub.

Nowe możliwości dla firm cyberbezpieczeństwa

Luttwak podkreśla, że obecna sytuacja to ekscytujący czas dla liderów w dziedzinie cyberbezpieczeństwa. Wiz, założony w 2020 roku, początkowo koncentrował się na identyfikowaniu i usuwaniu błędnych konfiguracji, luk w zabezpieczeniach i innych zagrożeń w środowiskach chmurowych. W ciągu ostatniego roku firma rozszerzyła swoje możliwości, aby nadążyć za tempem ataków związanych z AI i wykorzystywać AI we własnych produktach. Wiz oferuje Wiz Code, narzędzie do zabezpieczania cyklu życia oprogramowania, oraz Wiz Defend, rozwiązanie do ochrony środowisk chmurowych w czasie rzeczywistym.

Luttwak uważa, że kluczem do sukcesu jest „horizontal security”, czyli zrozumienie, w jaki sposób klienci wykorzystują swoje aplikacje. „Musimy zrozumieć, dlaczego coś budujesz, abym mógł zbudować narzędzie bezpieczeństwa, jakiego nikt wcześniej nie miał, narzędzie, które cię rozumie”, mówi.

Bezpieczeństwo od początku

W związku z demokratyzacją narzędzi AI, Luttwak przestrzega firmy przed przekazywaniem danych „każdej małej firmie SaaS, która ma pięciu pracowników, tylko dlatego, że obiecują niesamowite analizy AI”. Startupy muszą od samego początku działać jak bezpieczne organizacje, posiadając CISO (Chief Information Security Officer) nawet zatrudniając jedynie kilka osób. Należy wziąć pod uwagę funkcje bezpieczeństwa, dzienniki audytu, uwierzytelnianie, dostęp do produkcji, praktyki rozwoju, własność bezpieczeństwa i pojedyncze logowanie (single sign-on). Takie planowanie od początku pozwala uniknąć „długu bezpieczeństwa”.

Luttwak radzi startupom, aby od samego początku myślały o architekturze, która pozwala na przechowywanie danych klientów w ich własnym środowisku. Podkreśla również, że w erze AI, obszary takie jak ochrona przed phishingiem, bezpieczeństwo poczty e-mail, ochrona przed złośliwym oprogramowaniem i ochrona punktów końcowych oferują ogromne możliwości innowacji, zarówno dla atakujących, jak i obrońców. To samo dotyczy narzędzi do automatyzacji i workflow, które mogą pomóc zespołom ds. bezpieczeństwa w obronie przed atakami AI.

„Gra jest otwarta”, podsumowuje Luttwak. „Jeśli każdy obszar bezpieczeństwa ma teraz nowe ataki, oznacza to, że musimy przemyśleć każdą jego część”.