Mityczna fala cyberapokalipsy nie nadeszła. AI służy głównie do generowania spamu i nagich zdjęć

Sektor cyberbezpieczeństwa od trzech lat straszy wizją cyfrowego Armagedonu. Generatywna sztuczna inteligencja miała zrównać z ziemią bariery wejścia do świata hakingu, zamieniając każdego amatora w cyfrowego włamywacza. Rzeczywistość, jak zwykle, okazuje się znacznie bardziej prozaiczna i mniej spektakularna.

Wandale zamiast geniuszy

Nowe badanie zatytułowane Stand-Alone Complex or Vibercrime? rzuca chłodne światło na mroczne zakamarki internetu. Zespół naukowców przeanalizował 97 895 wątków na forach takich jak CrimeBB, powstałych po premierze ChatGPT. Wniosek? Aż 97,3% dyskusji nie miało absolutnie nic wspólnego z wykorzystaniem AI do celów przestępczych.

Hakerzy wcale nie budują autonomicznych armii botów. Oni po prostu kłócą się o to, jak obejść filtry moralne dużych modeli językowych.

WormGPT to marketingowa ściema

Pamiętacie głośne nagłówki o WormGPT i FraudGPT? To miały być „złe” wersje ChatGPT, stworzone specjalnie dla przestępców. Dane z forum dowodzą jednak, że te narzędzia to w dużej mierze marketingowa wydmuszka. Użytkownicy skarżą się, że narzędzia nie działają, a sami twórcy przyznają wprost: to tylko lekko zmodyfikowane, ogólnodostępne modele z prostym jailbreakiem.

Dziś zabezpieczenia gigantów takich jak OpenAI okazują się zaskakująco skuteczne. Metody łamania filtrów (tzw. jailbreaki) stają się bezużyteczne zazwyczaj w ciągu kilku dni, co czyni profesjonalne hakerstwo oparte na modelach komercyjnych walką z wiatrakami.

AI nie koduje, AI „wibruje”

Pojęcie vibe coding, czyli tworzenia oprogramowania poprzez luźne instrukcje dla AI, sprawdza się w budowaniu startupów, ale nie w pisaniu złośliwego kodu. Doświadczeni hakerzy gardzą tym podejściem. Powód jest prosty: precyzja i bezpieczeństwo.

• AI produkuje kod podatny na błędy i łatwy do wykrycia.
• Młodzi przestępcy tracą umiejętności, polegając na kopiuj-wklej z czatu.
• Gotowe, sprawdzone skrypty z GitHub wciąż są skuteczniejsze niż halucynacje LLM.

Większość hakerów używa AI tak samo jak my – jako inteligentniejszego autouzupełniania lub zamiennika dla Stack Overflow. Nic więcej.

Prawdziwy brud: spam i nagość za dolara

Gdzie zatem AI faktycznie wygrywa w podziemiu? Tam, gdzie ilość liczy się bardziej niż jakość. Największa mierzalna aktywność kryminalna oparta na AI to masowe produkowanie spamu SEO, oszustwa na „amerykańskiego żołnierza” wzbogacone o klonowanie głosu oraz masowa produkcja nagich zdjęć.

Naukowcy natrafili na oferty generowania deepfake’owej nagości za jednego dolara od zdjęcia. To nie jest wyrafinowany cyberatak. To ta sama niskomarżowa praca, która napędzała rynek spamu przez ostatnie dwie dekady, tyle że z lepszym silnikiem graficznym.

Największe zagrożenie jest kadrowe

Prawdziwe niebezpieczeństwo płynące z AI może nie leżeć w samej technologii, lecz w rynku pracy. Masowe zwolnienia w sektorze technologicznym, napędzane automatyzacją, mogą wypchnąć tysiące utalentowanych programistów do szarej strefy.

Zdesperowany deweloper, który nagle stracił stabilność finansową, to znacznie większy atut dla cyberprzestępczości niż najpotężniejszy model językowy. To ludzie, nie boty, pozostają najgroźniejszym ogniwem w tym łańcuchu.