Koniec ery błędów językowych. Google i OpenAI uderzają w chińskie farmy botów
Koniec z łamaną polszczyzną i podejrzanymi linkami, które zdradzały amatorskich oszustów. Grupa —Outsider Enterprise— operująca z Chin, zalała sieć tysiącami witryn phishingowych wygenerowanych przez model Gemini, a ich ofiarą padli użytkownicy Androida na masową skalę. To już nie jest prymitywny spam, ale precyzyjne uderzenie w finanse i opinię publiczną, które zmusiło Google do wejścia na drogę sądową wspólnie z FBI.
Dlaczego to jest ważne teraz
W 2025 roku cyberprzestępczość przestała być abstrakcyjnym zagrożeniem, a stała się gigantycznym obciążeniem dla gospodarki. Według danych FBI straty z tego tytułu sięgnęły 21 miliardów dolarów, z czego ponad miliard to bezpośredni efekt nadużyć generatywnej sztucznej inteligencji. W roku, w którym wybory zadecydują o przywództwie dla 40% populacji globu, technologia ta staje się głównym orężem w wojnie hybrydowej prowadzonej przez Chiny i Rosję.
Sztuczna inteligencja jako fabryka oszustwa
Pozew złożony w sądzie federalnym w Nowym Jorku opisuje imponującą skalę operacji. Napastnicy stworzyli ponad 130 zestawów oprogramowania, które błyskawicznie replikowały strony YouTube czy systemy opłat drogowych. —Użycie generatywnej sztucznej inteligencji znosi dotychczasowe bariery wejścia dla przestępców. Błędy językowe czy nienaturalna składnia, które dawniej pomagały zdemaskować oszustwa, dziś znikają— ostrzegają eksperci FBI w oficjalnym komunikacie.
Chińska —wodna armia— wewnątrz ChatGPT
Równolegle OpenAI zneutralizowało klastry kont powiązane z operacjami —Data Center Bandwagon— i —Tech and Tariffs—. Były to chińskie podmioty prywatne działające na zlecenie prowincjonalnych władz. Ich zadaniem była nie tyle kradzież, co subtelne urabianie internautów w kwestiach polityki celnej USA oraz kosztów energii. Wykorzystywali model do budowania botów na Telegramie oraz narzędzia —Qianyue Overseas Public Opinion AI Assistant—, które miało monitorować protesty w USA i Wielkiej Brytanii.
Ben Nimmo z OpenAI wskazuje na zmianę taktyki: —Chińscy aktorzy zamiast kreować nowe tematy, starają się podpiąć pod istniejące już polaryzujące dyskusje, próbując przemycić w nich swoją agendę.— Co gorsza, próbowano zmusić AI do stworzenia systemów automatycznej inwigilacji, które wykrywałyby wpisy konkretnych dysydentów.
Skuteczność mierzona na skali Breakout
Choć technicznie operacje te są coraz bardziej zaawansowane, ich realny wpływ na opinię publiczną pozostaje dyskusyjny. OpenAI ocenia te działania na zaledwie pierwszy stopień w skali Breakout – oznacza to, że propaganda krążyła głównie w zamkniętych kręgach botów. Nie zmienia to faktu, że zagrożenie jest realne. Podczas ostatniej Monachijskiej Konferencji Bezpieczeństwa, Google, OpenAI oraz Anthropic zadeklarowały wspólny front w wykrywaniu dezinformacji.
Podobne problemy sprawia Rosja. Grupa —Bad Grammar— masowo wykorzystywała modele językowe do zalewania Telegrama komentarzami w języku polskim i angielskim, co pokazuje, że Polska również znajduje się na celowniku zautomatyzowanych fabryk trolli.
