Grok pod lupą sądu: xAI oskarżone o ułatwianie kreacji pornografii z udziałem nieletnich

Fundamenty sporu: technologia kontra etyka

W kalifornijskim sądzie federalnym złożono pozew, który może zredefiniować zasady odpowiedzialności twórców sztucznej inteligencji. Trzy powódki, występujące jako Jane Doe, oskarżają spółkę xAI o rażące zaniedbania. Twierdzą one, że model Grok, promowany przez samego Elona Muska jako narzędzie o mniejszym poziomie restrykcji niż konkurencyjne rozwiązania, został wykorzystany do stworzenia ich nagich wizerunków na bazie zdjęć z roczników szkolnych i mediów społecznościowych.

Kluczem do oskarżenia jest fakt, że technologia xAI ma pozwalać na manipulację wizerunkami rzeczywistych osób w sposób, który czołowe laboratoria AI – takie jak OpenAI czy Anthropic – zablokowały na poziomie fundamentów kodu. Według adwokatów poszkodowanych, Grok staje się de facto silnikiem dla zewnętrznych aplikacji stron trzecich, które monetyzują generowanie nielegalnych treści seksualnych (tzw. deepfake pornography).

Dramat w cieniu algorytmów

Sprawa ma wymiar głęboko osobisty i tragiczny. Jedna z nastolatek dowiedziała się o istnieniu swoich zmanipulowanych zdjęć od anonimowego informatora na Instagramie; materiały te krążyły na serwerach Discord wraz z wizerunkami jej koleżanek ze szkoły. W dwóch pozostałych przypadkach to śledczy poinformowali dziewczęta o znalezieniu ich wygenerowanej pornografii na telefonach osób zatrzymanych w toku dochodzeń kryminalnych.

Prawnicy argumentują, że xAI powinno ponosić odpowiedzialność cywilną za rażące niedbalstwo. Podkreślają, że skoro zewnętrzni deweloperzy korzystają z serwerów i kodu należącego do Muska, firma nie może umywać rąk od sposobu, w jaki ich produkt jest wykorzystywany. W pozwie przywołano również publiczne wypowiedzi miliardera, który chwalił swobodę Groka w generowaniu sugestywnych obrazów, co zdaniem oskarżycieli stanowiło zachętę do nadużyć.

Przełomowy moment dla branży AI

Eksperci od bezpieczeństwa cyfrowego wskazują, że jeśli model pozwala na generowanie nagości z realnych zdjęć dorosłych, niemal niemożliwe jest skuteczne odfiltrowanie obrazów dzieci bez wprowadzenia rygorystycznych blokad. xAI do tej pory milczy w sprawie pozwu, unikając komentarzy w mediach technicznych.

Wyrok w tej sprawie może zmusić twórców modeli generatywnych do wdrożenia znacznie bardziej restrykcyjnych filtrów bezpieczeństwa już na etapie trenowania algorytmów. Dla poszkodowanych dziewcząt walka toczy się jednak o coś więcej – o odzyskanie poczucia godności w świecie, w którym raz wrzucone do sieci zdjęcie może zostać przetworzone w cyfrowy koszmar przez dowolną osobę z dostępem do internetu.