Przemysłowa produkcja fake newsów: farmy treści AI zalewają sieć

Mechanizm cyfrowego pasożytnictwa

Krajobraz współczesnego internetu zostaje zdominowany przez zjawisko, które analitycy określają mianem „farm treści AI”. Z raportu firm NewsGuard oraz Pangram Labs wynika, że skala problemu podwoiła się w ciągu zaledwie roku. Obecnie sieć powiększa się o 300 do 500 nowych witryn miesięcznie, które pod przykrywką rzetelnych serwisów informacyjnych publikują masowe ilości tekstów wygenerowanych przez duże modele językowe.

Te cyfrowe atrapy działają według prostego, ale skutecznego schematu. Przyjmują generyczne nazwy, takie jak „Times Business News” czy „Business Post”, aby uśpić czujność czytelnika i algorytmów. Nie posiadają jednak żadnego nadzoru redakcyjnego. Ich jedynym celem jest generowanie ruchu, który następnie monetyzowany jest poprzez reklamy programatyczne. W efekcie budżety marketingowe największych światowych marek trafiają – często bez wiedzy samych zainteresowanych – na konta podmiotów promujących kompletne bzdury.

Od halucynacji do zaplanowanej dezinformacji

Problem wykracza daleko poza niską jakość tekstów. Brak krytycznej weryfikacji sprawia, że AI tworzy i rozpowszechnia całkowicie zmyślone fakty. Przykładem jest serwis „News 24”, który donosił o rzekomym konflikcie na linii Coca-Cola, a wykonawcą Bad Bunny w kontekście Super Bowl. Choć gigant napojowy nie był nawet sponsorem wydarzenia, na stronie wyświetlały się reklamy gigantów technologicznych i turystycznych.

Sytuacja staje się jednak znacznie groźniejsza, gdy farmy treści zostają zaprzęgnięte do walki politycznej. NewsGuard wskazuje, że co najmniej 358 zidentyfikowanych witryn jest powiązanych z rosyjską operacją wpływu Storm-1516. Te same szablony, które służą do wyłudzania pieniędzy z reklam, są wykorzystywane przez ośrodki z Rosji, Chin czy Iranu do imitowania lokalnej prasy w USA i Europie, co pozwala na skuteczne wprowadzanie fałszywych narracji do głównego nurtu debaty publicznej.

Słabość technologicznych gigantów

Mimo postępu w dziedzinie detekcji, systemy największych graczy, takich jak Google, wydają się bezradne lub – co gorsza – niechętne do działania. Farmy AI wciąż zyskują dużą widoczność w usługach Google News czy Discover. Krytycy zauważają, że platformy te czerpią zyski z reklam wyświetlanych w takich serwisach przez własne programy partnerskie, co tworzy toksyczny ekosystem motywacji finansowych.

Obecnie walka z tym procederem opiera się na rozwiązaniach hybrydowych. Nowe oprogramowanie Pangram Labs automatycznie flaguje podejrzane witryny, biorąc pod uwagę brak przejrzystości co do autorstwa i nienaturalną częstotliwość publikacji. Ostateczna weryfikacja wciąż jednak spoczywa na barkach analityków. W świecie, w którym treść produkowana jest niemal zerowym kosztem, klasyczne mechanizmy obronne internetu mogą okazać się niewystarczające.