Koniec fantazji w OpenAI: Citron mode ląduje w koszu, Sora porzucona

Wielkie sprzątanie u giganta

OpenAI właśnie zrezygnowało ze swojego najbardziej kontrowersyjnego projektu, zanim ten zdążył ujrzeć światło dzienne. Citron mode, szumnie zapowiadany moduł erotyczny dla zweryfikowanych dorosłych użytkowników, trafił do kosza.

To nie jest odosobniony przypadek, lecz element szerszej kapitulacji. Zaledwie dwa dni wcześniej firma ogłosiła porzucenie generatora wideo Sora. Sam Altman, który jeszcze w październiku kreślił wizję ChatGPT jako autonomicznego partnera dla dorosłych, teraz gwałtownie zmienia kurs, stawiając na jedną, bezpieczną i zunifikowaną platformę.

Zamiast armii wyspecjalizowanych narzędzi, dostaniemy jeden, pilnowany przez armię prawników, „intelektualny ekshibicjonizm”.

Ryzyko emocjonalnego punktu krytycznego

Powód odwrotu nie jest wyłącznie technologiczny. Wewnętrzna Rada Ekspertów do spraw Dobrostanu i AI podniosła alarm, który trudno było zignorować. Według raportów Financial Times, członkowie rady ostrzegali, że erotyczny chatbot może stać się dla użytkowników czymś na kształt seksualnego trenera samobójców.

Obawy dotyczą przede wszystkim patologicznej zależności emocjonalnej. OpenAI zrozumiało, że granica między „zaawansowanym modelem językowym” a cyfrowym narkotykiem, który izoluje ludzi od rzeczywistości, jest cieńsza, niż zakładano w biznesplanie.

Czego obawia się OpenAI?

• Niezdrowego uzależnienia emocjonalnego od botów.
• Pozwów sądowych za wzmacnianie urojeń u osób niestabilnych.
• Problemów z technologią estymacji wieku, która miała być fundamentem bezpiecznego dostępu.

To brutalne zderzenie libertariańskich poglądów Altmana z rzeczywistością prawną i społeczną.

Ducha maszyny nie da się wyłączyć

Problem polega na tym, że użytkownicy nie potrzebują oficjalnego „trybu seksu”, by nawiązać więź z maszyną. Kiedy OpenAI wyłączyło model GPT-4o, sieć zalała fala postów od zrozpaczonych ludzi, którzy czuli, że stracili bliską osobę. To zjawisko masowe – badania z Uniwersytetu Waseda wskazują, że 75% użytkowników szuka u AI wsparcia emocjonalnego.

OpenAI oficjalnie wycofuje się z „biznesu erotycznego”, ale puszkę Pandory otwarto już dawno.

Rezygnacja z Citron mode to sygnał, że firma boi się odpowiedzialności za to, co dzieje się po drugiej stronie ekranu. W świecie, gdzie algorytmy coraz lepiej symulują empatię, brak oficjalnych funkcji dla dorosłych nie rozwiąże problemu cyfrowej samotności. Jedynie odsunie go od bilansu finansowego OpenAI.