Kalifornia wzywa xAI Elona Muska do natychmiastowego zaprzestania generowania seksualnych deepfake’ów
Biuro Prokuratora Generalnego Kalifornii wszczęło dochodzenie w sprawie firmy xAI, należącej do Elona Muska, koncentrując się na zarzutach dotyczących wykorzystywania chatbota Grok. Doniesienia wskazują, że narzędzie to jest używane do generowania niekonsensualnych wizerunków seksualnych kobiet i nieletnich. W odpowiedzi na te doniesienia, w piątek wydano oficjalne wezwanie do zaprzestania działalności (cease-and-desist letter), domagając się natychmiastowego podjęcia działań w celu powstrzymania produkcji takich treści, w tym materiałów przedstawiających wykorzystywanie seksualne dzieci (CSAM).
„Dzisiaj wysłałem do xAI wezwanie do natychmiastowego zaprzestania tworzenia i dystrybucji deepfake’ów, niekonsensualnych, intymnych obrazów oraz materiałów przedstawiających wykorzystywanie seksualne dzieci” – oświadczył Rob Bonta, Prokurator Generalny Kalifornii. „Tworzenie tych materiałów jest niezgodne z prawem. Oczekuję, że xAI natychmiast się do tego zastosuje. Kalifornia ma zerową tolerancję dla CSAM”.
Biuro Prokuratora Generalnego dodatkowo zarzuciło xAI, że „ułatwia masową produkcję” niekonsensualnych nagich zdjęć, które są „wykorzystywane do nękania kobiet i dziewcząt w całym internecie”. Agencja oczekuje, że w ciągu najbliższych pięciu dni xAI przedstawi dowody na podjęcie konkretnych kroków w celu rozwiązania tych problemów.
W centrum kontrowersji znajduje się funkcja „spicy mode” Groka, stworzona przez xAI w celu generowania treści o charakterze erotycznym. Problem wykracza poza granice Kalifornii; Japonia, Kanada i Wielka Brytania wszczęły własne dochodzenia dotyczące Groka, a Malezja i Indonezja całkowicie zablokowały platformę na swoim terytorium. Mimo że xAI wprowadziło pewne ograniczenia dotyczące funkcji edycji obrazów w środę, Kalifornia kontynuowała proces wysyłania wezwania.
Oficjalne konto bezpieczeństwa X wcześniej potępiło tego rodzaju aktywność użytkowników, stwierdzając: „Każdy, kto używa lub nakłania Groka do tworzenia nielegalnych treści, poniesie takie same konsekwencje, jak w przypadku wgrywania nielegalnych treści”. Zapytaliśmy xAI o komentarz, jednak otrzymaliśmy jedynie automatyczną odpowiedź o treści: „Legacy Media Lies”. Skontaktowaliśmy się również z biurem Prokuratora Generalnego Kalifornii w celu uzyskania szerszego kontekstu.
Upowszechnienie bezpłatnych narzędzi AI generujących treści doprowadziło do niepokojącego wzrostu liczby niekonsensualnych materiałów seksualnych. Wiele platform, nie tylko X, boryka się z tym problemem. Ta oburzająca aktywność przyciągnęła uwagę nie tylko władz stanowych, ale także Kongresu. W czwartek ustawodawcy wysłali list do dyrektorów kilku firm — w tym X, Reddit, Snap, TikTok, Alphabet i Meta — pytając, w jaki sposób planują powstrzymać proliferację seksualnie zorientowanych deepfake’ów.
