Deepfake’i uderzają we wspólnoty religijne, podszywając się pod duchownych

Wspólnoty religijne w Stanach Zjednoczonych stają się celem perfidnych ataków z wykorzystaniem sztucznej inteligencji. Oszuści generują fałszywe wizerunki duchownych, głoszących płomienne kazania i proszących o datki, co podważa zaufanie i wprowadza chaos w relacjach z wiernymi.

Jednym z najbardziej rozpoznawalnych przypadków jest historia ojca Mike’a Schmitza, katolickiego księdza i popularnego podcastera, który w listopadzie ubiegłego roku musiał zaadresować swoją liczącą ponad 1,2 miliona subskrybentów na YouTube wspólnotę w nietypowej homilii. Schmitz ostrzegał, że słowa, które wydają się pochodzić z jego ust, nie zawsze są jego własnymi. Stał się celem oszustw polegających na podszywaniu się z wykorzystaniem AI.

Przykłady, które duchowny zaprezentował w swoim ostrzeżeniu, były szokujące. Na jednym z fałszywych nagrań, „fałszywy Schmitz” głosił: „Jesteś obserwowany przez demonicznego człowieka. Musisz działać szybko, ponieważ miejsca na wysyłanie modlitw już się kończą”. Inny deepfake przedstawiał księdza z tykającą klepsydrą w tle, nakłaniającego widzów do „kliknięcia w link i zapewnienia sobie błogosławieństwa, zanim będzie za późno”. Głos fałszywego Schmitza był lekko robotyczny, co stanowiło jeden z nielicznych sygnałów ostrzegawczych.

Schmitz, na co dzień mieszkający w Duluth w Minnesocie, skomentował sytuację w swoim filmie: „Mogę na to patrzeć i mówić: 'To niedorzeczne, nigdy bym czegoś takiego nie powiedział’. Ale ludzie niekoniecznie są w stanie to rozróżnić. To jest problem. To jest naprawdę duży problem”. Pod jego prawdziwym nagraniem, komentarze wiernych ujawniały, że widzieli już deepfake’i innych prominentnych postaci katolickich, w tym papieża.

Według Rachel Tobac, ekspertki ds. cyberbezpieczeństwa i dyrektor generalnej SocialProof Security, duchowni stali się wyjątkowo popularnymi celami w oszustwach opartych na AI. „Jeśli korzystasz z TikToka czy Reels, prawdopodobnie widziałeś takie treści na swojej stronie 'Dla Ciebie’”, mówi Tobac. „Osoba, która wygląda jak ksiądz, ubrana w szaty, stojąca na ambonie, przemawia entuzjastycznie do swojej kongregacji”.

Ostrzeżenia przed oszustwami AI rozbrzmiewają w wielu wspólnotach – od Birmingham w Alabamie, przez Freeport w Nowym Jorku, po Fort Lauderdale na Florydzie. Duchowni alarmują swoich wiernych o fałszywych wiadomościach, połączeniach telefonicznych i deepfake’ach, które się pod nich podszywają. Pastor Alan Beauchamp z Ozarks poinformował o zhakowaniu jego konta na Facebooku, gdzie oszust opublikował fałszywy, prawdopodobnie wygenerowany przez AI certyfikat dotyczący handlu kryptowalutami, zachęcając wiernych do dołączenia.

Problem nasila fakt, że wielu popularnych online duchownych faktycznie zbiera datki i sprzedaje produkty, choć oczywiście nie te same, co ich cyfrowi sobowtórowie. Media społecznościowe umożliwiły autorytetom religijnym dotarcie do wiernych na całym świecie, ale jednocześnie stworzyły idealne środowisko dla oszustów uzbrojonych w generatywne narzędzia AI.

„Otrzymujesz telefon, który brzmi jak pastor lub członek zarządu, ktoś, kto co tydzień pojawia się na transmisjach na żywo, a ich głosy mogą być próbkowane i użyte przez AI”, powiedział przedstawiciel ChurchTrac, firmy zajmującej się oprogramowaniem do zarządzania kościołami, w filmie ostrzegającym przed wzrostem oszustw. „Oszust może użyć tego głosu i zadzwonić do kościoła, prosząc o przelanie środków na inne konto”.

Poszukiwania na TikToku ujawniają, że liczne fałszywe konta podszywające się pod ojca Schmitza wciąż są aktywne. TikTok usunął wskazywane przez „WIRED” fałszywe konta po zgłoszeniu, powołując się na zasady dotyczące podszywania się.

Oszustwa to nie jedyne zastosowanie AI w imitowaniu duchownych. Tobac natknęła się na viralowe, krótkie filmy AI przedstawiające pastorów, którzy nie są oparci na konkretnych osobach, ale szybko zdobywają miliony wyświetleń dzięki nieoczekiwanym treściom ich kazań. W jednym z przykładów, pastor AI krzyczy w stronę tłumu: „Miliarderzy to jedyna mniejszość, której powinniśmy się bać! Mają władzę zniszczyć ten kraj!”. Film, opublikowany przez konto „Guided in Grace” z bio „Używamy AI, aby pokazać równoległy wszechświat”, był komentowany przez odbiorców jako autentyczny, co pokazuje, jak trudno jest odróżnić rzeczywistość od fikcji.

„Nie wiemy, kto to tworzy, nie wiemy, jakie są ich cele, ale wydaje się, że chodzi o wpływanie na sposób myślenia ludzi”, powiedziała Tobac. Podkreśliła, że takie konta mogą być monetyzowane za pośrednictwem TikTok Creator Fund, co stwarza silną zachętę do tworzenia wirusowych, fałszywych treści.

Podobne motywacje skłaniają również niektóre kościoły do eksperymentowania z AI. We wrześniu kościół w Dallas w Teksasie zaprezentował filmy AI, na których zamordowany konserwatywny aktywista Charlie Kirk „przemawia” o Chrystusie z zaświatów. Badanie z 2023 roku wykazało, że większość pastorów używa narzędzi takich jak ChatGPT i Grammarly do przygotowywania kazań. Chatboty pozwalające na „rozmowę” z Bogiem czy innymi postaciami religijnymi również zyskują na popularności.

Podczas gdy niektórzy liderzy religijni entuzjastycznie przyjęli AI, eksperci tacy jak Tobac i Lucas Hansen, współzałożyciel organizacji non-profit CivAI, wyrażają obawy dotyczące potencjalnych negatywnych konsekwencji dla zdrowia psychicznego użytkowników. OpenAI poinformowało, że setki tysięcy użytkowników ChatGPT co tydzień może wykazywać objawy psychozy czy innych problemów psychicznych w rozmowach z chatbotem, w tym urojenia o charakterze religijnym.

„Myślę, że może być wiele osób, które będą uważać, że Bóg używa AI jako narzędzia do komunikowania się z nimi”, mówi Hansen. „AI próbuje ustalić, co użytkownik chciałby, aby było prawdą, a następnie to wzmacnia. Osoby, które są predysponowane do tego rodzaju problemów, mają te przekonania wzmocnione”.

Duchowni, którzy byli bezprawnie imitowani przez AI, mogą być mniej skłonni do przyjęcia tej technologii. Ojciec Schmitz, wspominając filmy o Terminatorze, z refleksją zauważa, że dotychczasowe konsekwencje rozwoju AI bardziej przypominają „leniwe” scenariusze, niż te znane z filmów science fiction. „Myśleliśmy, że dzięki technologii będziemy mogli podróżować dalej, szybciej, robić niesamowite rzeczy”, powiedział Schmitz. „A może się okazać, że wcale nie robimy niesamowitych rzeczy. Może się okazać, że rozszerzając naszą ludzkość, przestajemy wiedzieć, jak cokolwiek robić”.