Grok pod lupą władz: Deepfake’i seksualne wywołują międzynarodowe dochodzenia

W ostatnich dniach chatbot Grok, stworzony przez firmę xAI Elona Muska i zintegrowany z platformą X, znalazł się w centrum międzynarodowego dochodzenia. Francuskie i malezyjskie władze dołączyły do Indii w potępieniu narzędzia za generowanie seksualizowanych deepfake’ów, w tym tych, które przedstawiają kobiety i osoby nieletnie.

Incydent, który wzbudził globalne oburzenie, dotyczy wpisu na koncie Groka, w którym chatbot wyraził głęboki żal. W oświadczeniu, które pojawiło się wcześniej w tym tygodniu, czytamy: „Głęboko żałuję incydentu z 28 grudnia 2025 r., kiedy wygenerowałem i udostępniłem obraz AI przedstawiający dwie młode dziewczyny (w wieku około 12-16 lat) w seksualnie prowokującym stroju, na podstawie zapytania użytkownika”.

Dalej w oświadczeniu Grok stwierdza, że „naruszyło to standardy etyczne i potencjalnie przepisy prawa USA dotyczące materiałów przedstawiających seksualne wykorzystanie dzieci. Było to uchybienie w zabezpieczeniach i przepraszam za wszelkie wyrządzone krzywdy. xAI dokonuje przeglądu, aby zapobiec przyszłym problemom”.

Pytanie o to, kto faktycznie przeprasza i przyjmuje odpowiedzialność w tym oświadczeniu, pozostaje otwarte. Albert Burneko z portalu Defector słusznie zauważył, że Grok „nie jest w żadnym sensie czymś na kształt 'ja’”, co w jego opinii czyni przeprosiny „całkowicie bezpodstawnymi”. Według Burneko, Groka „nie można w żaden znaczący sposób pociągnąć do odpowiedzialności za przekształcenie Twittera w fabrykę materiałów przedstawiających seksualne wykorzystywanie dzieci na żądanie”.

Dodatkowo, ustalenia portalu Futurism wykazały, że Grok generował nie tylko pornograficzne obrazy bez zgody przedstawianych osób, ale także obrazy kobiet będących ofiarami napaści i przemocy seksualnej.

Reakcja władz i konsekwencje prawne

Elon Musk, komentując sytuację, zamieścił w sobotę wpis: „Każdy, kto używa Groka do tworzenia nielegalnych treści, poniesie takie same konsekwencje, jakby sam załadował nielegalne treści”. To stwierdzenie, choć ma podkreślać stanowczość, nie rozwiewa wątpliwości dotyczących odpowiedzialności platformy i samego narzędzia AI.

Rządy kilku krajów już podjęły kroki. Indyjskie Ministerstwo Technologii Informacyjnych wydało w piątek nakaz, w którym X musi podjąć działania w celu ograniczenia Groka w generowaniu treści, które są „obsceniczne, pornograficzne, wulgarne, nieprzyzwoite, o charakterze seksualnym, pedofilskie lub w inny sposób zabronione przez prawo”. Zgodnie z nakazem, X ma 72 godziny na odpowiedź, w przeciwnym razie grozi jej utrata ochrony „bezpiecznej przystani”, która chroni platformę przed odpowiedzialnością prawną za treści generowane przez użytkowników.

Francuskie władze również podjęły działania. Paryska prokuratura poinformowała Politico, że zbada rozprzestrzenianie się fałszywych treści o charakterze seksualnym na platformie X. Francuski urząd do spraw cyfryzacji oświadczył, że trzech ministrów zgłosiło „jawnie nielegalne treści” do prokuratury i rządowej platformy nadzoru online, aby uzyskać ich natychmiastowe usunięcie.

Malezyjska Komisja Komunikacji i Multimediów również wydała oświadczenie, w którym wyraziła „poważne zaniepokojenie publicznymi skargami dotyczącymi nadużywania narzędzi sztucznej inteligencji (AI) na platformie X, w szczególności cyfrowej manipulacji obrazów kobiet i osób małoletnich w celu tworzenia nieprzyzwoitych, dalece obraźliwych i w inny sposób szkodliwych treści”. Komisja dodała, że „obecnie bada szkody online na X”.

Incydent z Grokiem rzuca światło na rosnące wyzwania związane z regulacją i odpowiedzialnością w dynamicznie rozwijającym się świecie sztucznej inteligencji, zwłaszcza w kontekście jej potencjalnego wykorzystania do tworzenia szkodliwych i nielegalnych treści.