Cyfrowa dyplomacja czy bot-propaganda? Izraelskie próby formowania opinii w AI

Tradycyjne farmy trolli w mediach społecznościowych ustępują miejsca bardziej wyrafinowanym metodom. Jak wynika z ustaleń dziennikarzy, Izrael podjął próby systematycznego wpływania na duże modele językowe (LLM), aby te w swoich odpowiedziach generowały obraz konfliktu na Bliskim Wschodzie zgodny z linią polityczną Tel Awiwu. To pierwszy tak wyraźny sygnał, że chatboty, z których korzystają miliony ludzi szukających obiektywnych informacji, stały się priorytetowym celem operacji wpływu.

Dlaczego to ważne właśnie teraz

Sprawa nabiera tempa po raporcie Quincy Institute, który opisał projekt kontraktu o wartości 46,5 mln dolarów z firmą Clock Tower X. Celem tej inwestycji jest bezpośrednie wpływanie na chatboty. W dobie, gdy użytkownicy traktują AI jako cyfrową encyklopedię, próby manipulowania „wagami” odpowiedzi uderzają w fundamenty zaufania do technologii. OpenAI już w maju 2024 roku zablokowało kampanie dezinformacyjne pochodzące nie tylko z Rosji czy Chin, ale właśnie z Izraela.

Mechanizm manipulacji algorytmami

Działania opisane w raportach wskazują na próby „karmienia” systemów, takich jak ChatGPT, specyficznymi zestawami danych oraz interakcjami mającymi na celu zmianę tego, jak algorytmy postrzegają rzeczywistość. Izraelska firma Stoic prowadziła sieć fałszywych kont publikujących treści wymierzone w protesty studenckie, a rządowe fundusze płynęły do podmiotów takich jak Havas Media. Celem było, jak wynika z ujawnionych dokumentów, „dostarczanie witryn i treści w celu uzyskania konkretnego ukierunkowania wyników w rozmowach z GPT”.

Eksperci ds. bezpieczeństwa cyfrowego podkreślają, że choć twórcy AI wdrażają filtry przeciwko dezinformacji, metody te wciąż są podatne na skoordynowane kampanie. New York Times opisał tajną operację wykorzystującą ChatGPT do tworzenia fikcyjnych, anglojęzycznych serwisów informacyjnych. Jeśli wystarczająco duża liczba zapytań i wprowadzanych danych promuje konkretny punkt widzenia, algorytm może zacząć uznawać go za dominujący lub neutralny, co w efekcie prowadzi do erozji obiektywizmu technologii.

Etyczne dylematy wielkiej technologii

Incydent ten otwiera nową puszkę Pandory w dyskusji o etyce sztucznej inteligencji. Problem polega nie tylko na samej próbie manipulacji, ale na kruchości systemów, które stają się arbitrami prawdy. Skoro państwa narodowe zaczynają traktować AI jako narzędzie soft power, granica między walką z dezinformacją a aktywnym kreowaniem propagandy staje się niebezpiecznie płynna. To wyzwanie, przed którym stoją giganci technologiczni, zmuszeni do budowania szczelniejszych zapór przed polityczną presją ukrytą w kodzie.