Indie nakazują X eliminację obscenicznych treści generowanych przez Groka

Indyjskie Ministerstwo Technologii Informacyjnych wydało w piątek decyzję nakazującą platformie X korektę działania Groka. Wymagane jest uniemożliwienie generowania treści związanych z nagością, seksualizacją, treściami jednoznacznie seksualnymi lub innymi niezgodnymi z prawem materiałami. Platforma otrzymała 72 godziny na przedstawienie szczegółowego raportu zawierającego podjęte kroki w celu zapobiegania hostowaniu lub rozpowszechnianiu treści uznanych za „obsceniczne, pornograficzne, wulgarne, nieprzyzwoite, pedofilskie lub w inny sposób zakazane przez prawo”.

Jak wynika z dokumentów, do których dotarł serwis TechCrunch, niewypełnienie tych wymogów może zagrozić statusowi „bezpiecznej przystani” X, czyli immunitetowi prawnemu chroniącemu platformę przed odpowiedzialnością za treści generowane przez użytkowników zgodnie z indyjskim prawem.

Decyzja Indii jest odpowiedzią na liczne zgłoszenia użytkowników i polityków. Wśród nich znalazły się przykłady, gdzie Grok był wykorzystywany do modyfikowania zdjęć ludzi – głównie kobiet – w taki sposób, aby wyglądały na ubrane w bikini. To właśnie stało się podstawą formalnej skargi złożonej przez indyjską parlamentarzystkę Priyankę Chaturvedi. Równocześnie wcześniejsze raporty wskazywały na przypadki generowania przez chatbota zseksualizowanych obrazów z udziałem nieletnich, co X przyznało, wskazując na luki w zabezpieczeniach. Te obrazy zostały usunięte, jednak TechCrunch zauważył, że grafiki przedstawiające kobiety w bikini generowane przez Groka były nadal dostępne na platformie X w momencie publikacji.

Obecne zarządzenie następuje kilka dni po tym, jak indyjskie Ministerstwo Technologii Informacyjnych wydało ogólne zalecenie dla platform mediów społecznościowych, przypominając, że przestrzeganie lokalnych przepisów dotyczących treści obscenicznych i jednoznacznie seksualnych jest warunkiem wstępnym zachowania immunitetu prawnego. W dokumencie wezwano firmy do wzmocnienia wewnętrznych zabezpieczeń, ostrzegając, że ich brak może skutkować konsekwencjami prawnymi na mocy indyjskiego prawa IT i przepisów karnych. Ministerstwo zapowiedziało, że brak zgodności zostanie potraktowany poważnie i może prowadzić do surowych konsekwencji prawnych wobec platformy, jej odpowiedzialnych funkcjonariuszy i użytkowników naruszających prawo, bez dalszego uprzedzenia.

Indie, będące jednym z największych rynków cyfrowych na świecie, stają się kluczowym polem testowym dla zakresu, w jakim rządy są gotowe pociągnąć platformy do odpowiedzialności za treści generowane przez sztuczną inteligencję. Wszelkie zaostrzenia egzekwowania przepisów w tym kraju mogą mieć globalny wpływ na firmy technologiczne działające w wielu jurysdykcjach.

Decyzja ta zapada w czasie, gdy X Elona Muska wciąż kwestionuje niektóre aspekty indyjskich przepisów dotyczących regulacji treści, argumentując, że uprawnienia rządu federalnego do usuwania treści są zbyt szerokie, mimo że platforma dostosowała się do większości nakazów blokowania. Jednocześnie Grok jest coraz częściej wykorzystywany przez użytkowników X do weryfikacji faktów w czasie rzeczywistym i komentowania bieżących wydarzeń, co czyni jego produkcje bardziej widocznymi – i politycznie wrażliwymi – niż w przypadku samodzielnych narzędzi AI.

X i xAI nie odpowiedziały natychmiast na prośby o komentarz w sprawie zarządzenia indyjskiego rządu.