Mroczna strona AI Search: Jak ChatGPT stał się nieświadomym naganiaczem oszustów

Wpisujesz w okno czatu zapytanie o solidne buty brytyjskiej marki i zamiast listy linków dostajesz konkretną rekomendację. Wszystko wygląda profesjonalnie, dopóki nie zorientujesz się, że właśnie przelałeś pieniądze oszustom, a polecony sklep fizycznie nie istnieje. OpenAI, uruchamiając wyszukiwanie webowe w ChatGPT, obiecało koniec z chaosem Google. Zamiast tego, otworzyło drzwi dla nowej fali ataków, w których sztuczna inteligencja występuje w roli nieświadomego wspólnika przestępców.

Mechanizm cyfrowego zatrucia

To nie są błędy w kodzie, ale celowe działanie. Zjawisko AI poisoning polega na „zatruwaniu” sieci danymi, które algorytmy OpenAI uznają za wiarygodne. Przestępcy wykorzystują lukę po markach takich jak Russell & Bromley czy Dunelm, które zamknęły część placówek. Tworzą dziesiątki lustrzanych witryn, które manipulują algorytmem tak skutecznie, że ChatGPT Search ignoruje ostrzeżenia i serwuje je na tacy jako najlepszą okazję.

Dlaczego to zagrożenie jest teraz tak istotne? Wyszukiwarki AI coraz częściej serwują nam gotowe odpowiedzi zamiast wyników, co drastycznie zwiększa skuteczność manipulacji. Użytkownik nie musi już klikać w trzeci link od góry – bot robi to za niego, syntetyzując treść. Według analiz przytaczanych przez rp.pl, na 178 przebadanych odpowiedzi ChatGPT aż 69 zawierało zmyślone informacje. Z kolei badania Vectary pokazują, że halucynacje mogą dotyczyć nawet od 3% do 27% generowanych treści, zależnie od modelu.

Pułapka autorytetu

Użytkownicy tracą czujność przez pewny siebie ton bota. W tradycyjnym Google podświadomie filtrujemy reklamy. ChatGPT mówi jednak głosem eksperta. To usypia instynkt przetrwania, co kończy się utratą danych kart płatniczych. Eksperci z Malwarebytes ostrzegają wprost: „Jeśli wystarczająco dużo niewiarygodnych źródeł mówi to samo, model sztucznej inteligencji może zaakceptować to jako fakt”. Na tym właśnie polega siła farm treści tworzonych przez oszustów.

Nie chodzi tylko o fałszywe zakupy. Technika zwana „indirect prompt injection” – czyli wstrzykiwanie złośliwych poleceń ukrytych w tekście na stronie – pozwala na coś znacznie gorszego. Jak zauważa The Guardian, „ChatGPT Search można również zmusić do generowania złośliwego kodu przy użyciu tej metody”. W czarnym scenariuszu agent AI, zamiast pomóc w zakupach, może zostać zmanipulowany do wykonania operacji, która – jak ostrzega Brave – doprowadzi do sytuacji, w której automat po prostu opróżni nasze konto bankowe.

Kruche fundamenty zaufania

Incydenty te obnażają słabość systemów AI: brak rozumienia kontekstu. Model nie wie, że firma zbankrutowała w ubiegłym roku; on jedynie procesuje dane statystycznie. Jeśli sieć zaleją tysiące fałszywych witryn z pozytywnymi opiniami, bot uzna je za prawdę. Dla OpenAI to potężny problem wizerunkowy. Firmy muszą teraz wybierać między świeżością danych a bezpieczeństwem. Dopóki systemy opierają się na prawdopodobieństwie, a nie na twardej weryfikacji, odpowiedzialność za każde kliknięcie w link spoczywa wyłącznie na Tobie.