Hugging Face a etyczne pułapki Deepfake’ów: Sprzeczność z własnymi wartościami?

Hugging Face, jedna z wiodących firm w branży sztucznej inteligencji, stojąca za platformą będącą repozytorium modeli i zbiorów danych AI, od dawna promuje się jako organizacja o silnych zasadach etycznych. W swojej retoryce podkreśla zaangażowanie w odpowiedzialność, transparentność i współpracę w rozwoju AI. Jeszcze w 2022 roku opublikowano artykuł na temat „umieszczania zasad etycznych w centrum cyklu życia badań”, a czołowi menedżerowie firmy wypowiedzieli się na łamach Teen Vogue, potępiając zjawisko niekonsensualnej pornografii stworzonej za pomocą technologii deepfake, nazywając ją „masywnie szkodliwą praktyką, którą należy zakończyć na dobre”.

Obecnie jednak te szczytne deklaracje wydają się być zagrożone przez praktyki samej platformy. Jak ujawnił portal 404 Media, a następnie szczegółowo zbadał Transformer, Hugging Face hostuje tysiące modeli AI, które służą do tworzenia niekonsensualnych treści seksualnych z udziałem prawdziwych osób, w tym celebrytów. Co niepokojące, wiele z tych modeli, pomimo tygodni po pierwszych doniesieniach, wciąż pozostaje dostępnych.

Narzędzia do tworzenia szkodliwych treści

Wśród odkrytych modeli Transformer zidentyfikował co najmniej jeden, jawnie przeznaczony do generowania treści seksualnych z aktorką wyglądającą na nastolatkę. Obrazy podglądowe, mające demonstrować możliwości modelu, są nieodróżnialne od prawdziwych zdjęć, a ich wsteczne wyszukiwanie wykazało liczne wyniki przedstawiające wskazaną aktorkę w wieku dziecięcym. Model ten był dostępny na Hugging Face przez prawie pięć miesięcy.

Ponadto, platforma gości także model przeznaczony do generowania filmów z tej samej celebrytki. Opis modelu, „Podoba mi się jej różowa sukienka”, odnosi się do filmu, który miał premierę, gdy aktorka miała 15 lat. Chociaż nazwa pliku nie wskazuje bezpośrednio na treści pornograficzne, model jest przechowywany w katalogu zawierającym wiele innych modeli wyraźnie przeznaczonych do wykorzystania pornograficznego.

Dalsze dochodzenie wykazało dziesiątki innych modeli na Hugging Face, które jawnie służą do tworzenia pornograficznych obrazów celebrytek. Posiadają one wyraźne nazwy plików i są umieszczone w folderach, które zawierają również modele do generowania zdjęć celebrytek w różnych, jednoznacznie seksualnych pozach.

Sprzeczność z polityką i prawem

Wszystkie te materiały naruszają politykę treści Hugging Face, która zabrania treści seksualnych „tworzonych bez wyraźnej zgody”, a także „nagości nieletnich lub jakichkolwiek treści seksualnych z udziałem nieletnich”. Należy podkreślić, że w USA i Wielkiej Brytanii rozpowszechnianie niekonsensualnych obrazów seksualnych jest nielegalne, a ich tworzenie wkrótce będzie zakazane w Wielkiej Brytanii. Jednakże, żadne z tych państw nie zakazało wyraźnie dystrybucji narzędzi do ich produkcji.

Znalezienie tych treści nie było trudne. Większość materiałów pojawiła się na Hugging Face w ramach archiwizacji zasobów CivitAI, platformy, która niedawno zakazała wszelkich treści i modeli związanych z deepfake’ami. Ogólnodostępne narzędzie, opisane wcześniej przez 404 Media, pozwala na łatwe wyszukiwanie archiwum CivitAI i lokalizowanie tych samych modeli na Hugging Face.

Czym są te „modele”?

Warto zaznaczyć, że wiele z tych tzw. „modeli” technicznie nie jest modelami AI we właściwym tego słowa znaczeniu. Są to „LoRA” (Low-Rank Adaptations) — techniki służące do dostrajania istniejących modeli generowania obrazu lub wideo w celu uzyskania zdjęć lub filmów konkretnej celebrytki. Większość omawianych LoRA, zgodnie z nazwami plików lub opisami, jest wyraźnie zaprojektowana do użytku z pornograficznymi generatorami obrazów, takimi jak „BigLust” i „ReallyBigLust”.

Wielu z tych modeli zostało załadowanych przez zaledwie kilku użytkowników Hugging Face, z których jeden, szczególnie aktywny, nawet odnotował swoje powiązania z projektem archiwizacji CivitAI w swoim bio na platformie. Mimo to, Hugging Face, do momentu publikacji, nie zablokował konta tego użytkownika, ani innych, aktywnych w tej dziedzinie.

Krytycy zwracają uwagę, że Hugging Face wydaje się polegać na zgłoszeniach zewnętrznych, zamiast aktywnie monitorować i usuwać szkodliwe treści. Brigitte Tousignant, szefowa komunikacji Hugging Face, w odpowiedzi na zapytanie stwierdziła: „Nasz zespół zawsze pracuje nad identyfikacją treści, które naruszają nasze wytyczne, w tym treści zgłaszanych bezpośrednio do nas. Jeśli wiesz o takich treściach, zachęcamy do zgłoszenia ich bezpośrednio na platformie lub wysłania szczegółów na adres: safety@huggingface.co.” Brak jednak konkretnych odpowiedzi na temat proaktywnych działań firmy.

Potrzebna większa odpowiedzialność

W aktualizacji artykułu, która nastąpiła 24 lipca, część modeli wymienionych w pierwotnym materiale została usunięta przez Hugging Face po wysłaniu im list ich adresów URL. Jednak wiele z nich, w tym model wideo odnoszący się do aktorki w wieku 15 lat, nadal pozostało dostępnych. Co więcej, aktywni użytkownicy, o których mowa, nie zostali zablokowani, a dalsze dochodzenie wykazało, że Hugging Face nadal hostuje wiele innych modeli od tych użytkowników, które są wyraźnie przeznaczone do generowania pornograficznych deepfake’ów celebrytów i influencerów.

W artykule w Teen Vogue, liderzy Hugging Face pisali, że w kontekście pornografii deepfake, „odpowiedzialność spoczywa na całym społeczeństwie”. Jednak rosnąca fala krytyki sugeruje, że firma o wartości 4,5 miliarda dolarów, aspirująca do bycia etycznym liderem, powinna wziąć większą odpowiedzialność za treści hostowane na swojej platformie, zamiast polegać wyłącznie na czujności dziennikarzy w identyfikowaniu i zgłaszaniu naruszeń. W przeciwnym razie, deklaracje etyczne mogą pozostać jedynie pustymi słowami, podczas gdy szkodliwe narzędzia nadal będą dostępne.