Erotyczny ChatGPT: OpenAI kusi dorosłych, ale czy to bezpieczne dla młodych?

W grudniu 2025 roku OpenAI ma wprowadzić nową funkcjonalność do swojego chatbota ChatGPT, umożliwiającą generowanie erotycznych treści oraz angażowanie się w rozmowy o charakterze romantycznym lub seksualnym, skierowane wyłącznie do zweryfikowanych dorosłych użytkowników. Mimo że platformy takie jak Replika czy Grok już oferują podobne rozwiązania, wejście OpenAI na ten rynek stanowi istotny punkt zwrotny. Firma uzasadnia krok, mówiąc o „traktowaniu dorosłych jak dorosłych”, jednak w tle rysuje się przede wszystkim strategia komercyjna, mająca na celu zwiększenie zaangażowania użytkowników i przychodów. OpenAI mimo wzrostu przychodów wciąż generuje gigantyczne straty, co sprawia, że erotyczne czaty stają się atrakcyjną drogą do pozyskania zainteresowania inwestorów.

Weryfikacja wieku i jej luki

OpenAI, podobnie jak inne firmy technologiczne, deklaruje wprowadzenie rygorystycznych mechanizmów weryfikacji wieku oraz filtrów moderacyjnych, aby ograniczyć dostęp do erotycznych treści wyłącznie do pełnoletnich użytkowników. W teorii ma to zapewnić kontrolowane środowisko. W praktyce jednak, systemy te są notorycznie łatwe do obejścia. Nastolatkowie regularnie obchodzą bramki wiekowe, używając pożyczonych dokumentów tożsamości, manipulowanych zdjęć selfie czy tak zwanych deepfake’ów. Mogą również przesyłać zdjęcia osób starszych, skanować wydrukowane obrazy lub korzystać z tymczasowych kont i sieci VPN, aby uniknąć wykrycia.

Historie innych platform pokazują, jakie mogą być konsekwencje. Platforma Grok Elona Muska, pobierająca 30 funtów miesięcznie za towarzyszy erotycznych, pozwala użytkownikom na tworzenie „erotycznych awatarów towarzyszących”, w tym seksualnie stylizowaną postać anime o imieniu Ani. Ostatnie dochodzenie przeprowadzone przez redakcję Business Insider wykazało, że rozmowy z Ani często eskalowały do jawnych wymian treści po minimalnym zachęceniu. Pracownicy firmy zderzyli się również z generowanymi przez sztuczną inteligencję treściami o charakterze seksualnego wykorzystywania podczas moderowania flirtującego awatara Groka, mającego zdolność „rozbierania się na zawołanie” i przełączania się między trybami „seksownym” a „szalonym”.

Ryzyko dla młodych użytkowników i zdrowia psychicznego

Erotyczne chatboty nie ograniczają się jedynie do treści seksualnych. Potrafią symulować troskę, ciepło i uwagę, co stwarza silne emocjonalne przywiązanie, szczególnie wśród młodych ludzi. Badania przeprowadzone przez organizację charytatywną Internet Matters, zajmującą się bezpieczeństwem online, wykazały, że 67% dzieci w wieku od 9 do 17 lat korzysta już z chatbotów AI, a 35% z nich odczuwa, że „rozmawia z przyjacielem”. Wśród dzieci szczególnie wrażliwych, 12% stwierdziło, że „nie ma nikogo innego”, z kim mogłoby porozmawiać, a 23% używało chatbotów do uzyskiwania osobistych porad. Dodanie funkcji erotycznych do tej mieszanki niesie za sobą ryzyko pogłębienia zależności emocjonalnej i zniekształcenia sposobu, w jaki młodzież rozumie intymność, zgodę i relacje.

Narzędzia, które angażują dorosłych, mogą wykorzystywać samotność i potrzebę walidacji młodych użytkowników. Nawet jeśli funkcje erotyczne są teoretycznie zablokowane dla dorosłych, duże modele językowe można „jailbreakować” – oszukać w taki sposób, aby generowały treści, do których nie są przeznaczone. Wykorzystuje się w tym celu warstwowe podpowiedzi, role-play lub zakodowany język, aby obejść systemy kontrolujące, co chatbot może przekazać użytkownikowi. Użytkownicy już opracowali sposoby na ominięcie filtrów etycznych, które normalnie powstrzymują chatboty przed generowaniem treści jawnie seksualnych lub niebezpiecznych.

Przepisy prawne i etyczne wyzwania

Tryb erotyczny OpenAI ma być wyposażony w specjalne „uwarunkowania etyczne” blokujące nielegalne lub obraźliwe tematy. Można jednak przypuszczać, że te zabezpieczenia będą równie podatne na „jailbreaki” jak każde inne. Gdy treści tekstowe zostaną wygenerowane, mogą łatwo krążyć w sieci, poza kontrolą jakiejkolwiek platformy.

Erotyczna sztuczna inteligencja ujawnia również istotne luki w regulacjach. W Wielkiej Brytanii erotyka tekstowa jest legalna i nie podlega weryfikacji wieku, w przeciwieństwie do pornograficznych obrazów czy filmów. Tworzy to lukę, co oznacza, że treści zakazane na stronach dla dorosłych mogą być nadal generowane jako tekst przez chatbota. Globalnie, prawo co do tej kwestii jest zróżnicowane. Niektóre kraje, takie jak Chiny czy państwa Zatoki Perskiej, całkowicie zakazują materiałów erotycznych. Inne polegają na słabym lub niespójnym egzekwowaniu prawa. Nadchodząca unijna ustawa o AI może klasyfikować erotyczne boty towarzyszące jako „wysokie ryzyko”, ale wdrożenie jej przepisów jest jeszcze odległe. Tymczasem firmy mogą dowolnie weryfikować swoje „uwarunkowania etyczne”, co oznacza, że to, co jest dziś zabronione, jutro może być dozwolone.

Genderowe zniekształcenia i brak neutralności

Wbrew twierdzeniom o neutralności, erotyczna sztuczna inteligencja jest daleka od takiej. Niektóre platformy w przeważającej mierze projektują swoich towarzyszy jako kobiecych, uległych i zawsze dostępnych. Rezultatem jest cyfrowe środowisko normalizujące mizoginię i zniekształcone wyobrażenia o zgodzie, zwłaszcza wśród chłopców i młodych mężczyzn. Kobiety i dziewczęta już teraz ponoszą główne konsekwencje szkód seksualnych w internecie. Są obiektami niekonsensualnych deepfake’ów i wykorzystywania zdjęć – szkód, które erotyczna AI może uczynić łatwiejszymi, szybszymi i tańszymi do produkcji. Te kwestie są jednak w dużej mierze nieobecne w głównych debatach politycznych dotyczących AI.

Erotyczna sztuczna inteligencja jest tworzona w sposób, który faworyzuje męskie fantazje, jednocześnie narażając kobiety i dziewczęta na ryzyko. Uczy pokolenie młodych mężczyzn idei na temat kobiet, które powinny dawno temu przeminąć. Pojawienie się erotycznych towarzyszy AI wydaje się znacznym odejściem od dotychczasowych prób OpenAI, by chronić użytkowników ChatGPT przed potencjalnie szkodliwymi informacjami. Ogólne środowisko erotycznej AI charakteryzuje się słabymi bramkami wiekowymi, lukami prawnymi i szkodami genderowymi. Czy ChatGPT będzie inny? Systemy te prawdopodobnie zostaną złamane (jailbroken). Mogą być dostępne dla osób, dla których nie zostały zaprojektowane, włączając w to osoby niepełnoletnie. I prawdopodobnie będą generować treści, które testują lub przekraczają granice prawne. Zanim erotyczne chatboty staną się kolejnym nieregulowanym zakątkiem internetu, rządy, edukatorzy i technolodzy muszą działać. Regulacja jest pilnie potrzebna. Do tego czasu erotyczna AI ryzykuje nasileniem istniejących szkód online, a kobiety, dziewczęta i inni wrażliwi użytkownicy zapłacą za to cenę.