AI i Holokaust: BBC ujawnia sieć spamerów zarabiających na fałszywych obrazach

Wykorzystywanie tragedii Holokaustu do generowania zysków w internecie osiąga nowy, odrażający poziom za sprawą sztucznej inteligencji. Śledztwo BBC odsłoniło rozległą siatkę spamerów, którzy masowo publikują na Facebooku obrazy ofiar Holokaustu, wygenerowane przez AI, aby zarabiać na programach monetyzacji treści Meta.

Organizacje, które zajmują się upamiętnianiem Holokaustu, biją na alarm. Podkreślają, że te fałszywe obrazy wywołują ogromny stres u ocalałych i ich rodzin. Skrytykowano również firmę Meta, właściciela Facebooka, za umożliwianie zarabiania na ludzkiej tragedii.

Fałszywe obrazy zalewają sieć

Autentycznych zdjęć z wnętrza obozu koncentracyjnego Auschwitz jest bardzo mało. Tymczasem w ostatnich miesiącach internet zalała fala fałszywych obrazów, generowanych przez AI, które rzekomo przedstawiają sceny z obozu – więźnia grającego na skrzypcach, zakochanych spotykających się przy ogrodzeniu. Te obrazy zdobywają dziesiątki tysięcy polubień i udostępnień.

Paweł Sawicki, rzecznik Muzeum Auschwitz, w rozmowie z BBC podkreśla, że mamy tu do czynienia z wykorzystywaniem ludzkiej tragedii do „dziwnej emocjonalnej gry” w mediach społecznościowych. „To nie jest gra. To jest prawdziwy świat, prawdziwe cierpienie i prawdziwi ludzie, których chcemy i musimy upamiętniać” – dodaje Sawicki.

Pakistańska fabryka „AI slop”

Dziennikarze BBC zlokalizowali źródło wielu z tych obrazów – sieć twórców treści z siedzibą w Pakistanie, którzy blisko współpracują ze sobą w celu zarabiania pieniędzy na Facebooku. Wykorzystują oni program monetyzacji treści (CM) Meta, system „tylko na zaproszenie”, który płaci użytkownikom za popularne treści i wyświetlenia. Jeden z użytkowników, Abdul Mughees, twierdzi, że zarobił 20 000 dolarów dzięki programom monetyzacji w mediach społecznościowych, w tym Meta. Inny post sugeruje, że konto wygenerowało ponad 1,2 miliarda wyświetleń treści w ciągu czterech miesięcy. BBC nie było w stanie niezależnie zweryfikować zarobków twórców.

Analiza aktywności online konta Abdula Mugheesa i dziesiątek innych podobnych kont sugerują, że publikują one niemal wyłącznie „AI slop”. Termin ten odnosi się do niskiej jakości obrazów i tekstów generowanych przez AI, zazwyczaj produkowanych w dużych ilościach i rozpowszechnianych w mediach społecznościowych.

Auschwitz jako popularny temat

Okazuje się, że Auschwitz stał się popularnym tematem dla stron i grup o tematyce historycznej. Niektóre z nich, o nazwach takich jak „Timeless Tales” i „History Haven”, publikują posty nawet 50 razy dziennie. W czerwcu Muzeum Auschwitz ostrzegało, że takie konta kradną jego posty, przetwarzają je za pomocą modeli AI i często zniekształcają szczegóły historyczne lub całkowicie zmyślają narracje i ofiary.

Muzeum Auschwitz w swoim poście na Facebooku stwierdziło, że te obrazy to „niebezpieczne zniekształcenie”, które „lekceważy ofiary i zakłóca pamięć o nich”. Mr Sawicki powiedział, że tsunami fałszywych obrazów podważa misję Muzeum Auschwitz, jaką jest podnoszenie świadomości na temat Holokaustu. „Zaczęliśmy już otrzymywać komentarze na naszych postach na Facebooku, że 'och, to jest zdjęcie wygenerowane przez AI'” – powiedział.

Meta reaguje, ale problem pozostaje

Meta twierdzi, że nie zachęca użytkowników do publikowania fałszywych historii, w tym o Holokauście, ale jej system nagradza posty o wysokim poziomie zaangażowania. BBC zlokalizowało również konta „AI slop” z siedzibą w Indiach, Wietnamie, Tajlandii i Nigerii.

Zapytana o profile, które publikowały treści o Holokauście wygenerowane przez sztuczną inteligencję i wydawały się angażować w oszukańcze praktyki, Meta odpowiedziała, że niektóre profile i grupy zostały usunięte, w tym te, które zostały pierwotnie zgłoszone przez Muzeum Auschwitz w czerwcu. Rzecznik giganta technologicznego powiedział, że chociaż te fałszywe obrazy nie naruszały jego zasad dotyczących treści, firma zbadała je i stwierdziła, że naruszają one jego zasady dotyczące podszywania się pod inne osoby lub handlu stronami. „Usunęliśmy Strony i Grupy, które nam udostępniono, i wyłączyliśmy konta, które się za nimi kryły, za naruszenie naszych zasad dotyczących spamu i nieautentycznego zachowania” – powiedzieli.

Fazal Rahman, mieszkaniec Pakistanu, który jest zapisany do kilku programów monetyzacji treści w mediach społecznościowych, powiedział BBC, że strona na Facebooku z 300 000 obserwujących może zarobić swojemu właścicielowi 1 000 USD miesięcznie, jeśli ma „treści premium” skierowane do odbiorców o wyższej wartości z Wielkiej Brytanii, USA i Europy. Ocenia on, że wyświetlenia z Zachodu są warte osiem razy więcej za post niż te z Azji. Powiedział, że tematyka historyczna jest niezawodnym źródłem ruchu online.

Niebezpieczeństwa związane z wykorzystaniem AI

Robert Williams z Międzynarodowego Sojuszu Pamięci o Holokauście ostrzega, że istnieje ryzyko, że wykorzystanie AI do „ożywiania” historii ofiar Holokaustu może przyczynić się do poczucia, że historia Holokaustu jest w jakiś sposób sfałszowana. „Wszelkich form skrajnej manipulacji powinniśmy unikać” – powiedział.

Wykorzystywanie tragedii w celu generowania zasięgów i zysków jest problemem, który wymaga systemowego rozwiązania i wzmożonej kontroli platform społecznościowych nad treściami, które promują.