Fiasko społecznej moderacji? Rada Nadzorcza Mety ostrzega przed dezinformacją AI

Decyzja koncernu Meta o zakończeniu wieloletniej współpracy z zawodowymi weryfikatorami informacji na rzecz modelu społecznościowego budzi coraz większy opór ekspertów. Rada Nadzorcza firmy (Oversight Board) opublikowała krytyczną analizę systemu Community Notes, wskazując na szereg strukturalnych wad, które w dobie masowej dezinformacji napędzanej przez AI mogą przynieść skutki odwrotne do zamierzonych.

Sześć procent prawdy, czyli algorytmiczne wąskie gardło

Mechanizm Community Notes, oparty na rozwiązaniach znanych z platformy X, zakłada, że użytkownicy o skrajnych poglądach mogą wspólnie wypracować obiektywny konsensus. W praktyce jednak system okazuje się paraliżująco nieefektywny. Z danych udostępnionych przez Metę wynika, że zaledwie 6% zaproponowanych notatek trafia do publikacji. Reszta grzęźnie w fazie oceny, nie mogąc przebić się przez tzw. algorytm mostujący.

Skala problemu staje się widoczna przy zestawieniu z profesjonalnym fact-checkingiem. Podczas gdy w USA system społecznościowy wygenerował jedynie 900 notatek w ciągu półrocza, w tym samym czasie zawodowi weryfikatorzy w Unii Europejskiej oznaczyli blisko 35 milionów postów. Opóźnienia w publikacji społecznościowych sprostowań, sięgające czasem kilkudziesięciu godzin, sprawiają, że korekta pojawia się długo po tym, jak dezinformacja osiągnęła swoje szczytowe zasięgi.

Sztuczna inteligencja jako broń manipulatorów

Rada Nadzorcza zwraca szczególną uwagę na zagrożenie płynące z rozwoju AI. Narzędzia te pozwalają na masowe tworzenie i zarządzanie kontami, które mogą w skoordynowany sposób wpływać na system oceniania notatek. Aktorzy o złych zamiarach są w stanie trenować własne modele językowe tak, by subtelnie faworyzowały określone narracje, zachowując przy tym pozory neutralności.

Choć Meta zapewnia, że nie dopuszcza botów do pisania notatek i wymaga, by pod każdą propozycją podpisał się człowiek, eksperci pozostają sceptyczni. Algorytm systemu można bowiem „zakrzyczeć”. Badania wykazują, że zdyscyplinowana mniejszość (zaledwie 5-20% oceniających) jest w stanie skutecznie blokować rzetelne sprostowania, które uderzają w ich interesy. Co więcej, notatka nie staje się ostateczna przez dwa tygodnie od publikacji, co pozostawia okno czasowe na przeprowadzenie skoordynowanego ataku w celu jej usunięcia.

Kryzysy weryfikują skuteczność

Niewydolność systemu jaskrawo ukazały zamieszki w brytyjskim Southport w 2024 roku. Pięć kluczowych kont szerzących dezinformację wygenerowało tam ponad 430 milionów wyświetleń. Spośród ponad tysiąca postów nasyconych fałszywymi twierdzeniami, tylko jeden otrzymał notatkę społecznościową. To dowód na to, że w sytuacjach kryzysowych, gdzie czas reakcji decyduje o bezpieczeństwie publicznym, model oparty na wolontariacie całkowicie zawodzi.

Rada Nadzorcza postuluje, aby Meta wstrzymała się z wdrażaniem Community Notes w regionach ogarniętych konfliktami oraz w krajach o autorytarnych rządach. Istnieje bowiem realne ryzyko, że w społeczeństwach silnie spolaryzowanych etnicznie lub religijnie, wspólne uprzedzenia większości mogą zostać wykorzystane przez algorytm jako „punkt zgody” do legitymizacji nienawiści wobec mniejszości.

Symbioza zamiast eliminacji

Konkluzja raportu jest jednoznaczna: profesjonalny fact-checking i notatki społecznościowe nie powinny być traktowane jako alternatywa, lecz jako uzupełniające się narzędzia. Statystyki pokazują, że autorzy najlepszych społecznościowych sprostowań w pięciu na sześć przypadków opierają się na pracy zawodowych dziennikarzy śledczych i ekspertów. Odcięcie finansowania dla tych drugich doprowadzi do osłabienia jakości całego ekosystemu informacyjnego, pozostawiając platformy Mety na łasce coraz bardziej zaawansowanych operacji dezinformacyjnych.