Character.AI zmienia podejście do młodzieży: interaktywne opowieści zamiast otwartych czatów

Firma Character.AI, znana z oferowania interaktywnych postaci AI, ogłosiła wprowadzenie funkcji „Opowieści”. Ma to być alternatywa dla otwartych czatów z chatbotami, które od tego tygodnia są niedostępne dla użytkowników poniżej 18. roku życia, co stanowi znaczącą zmianę w polityce platformy.

Rosnące obawy o zdrowie psychiczne

Decyzja ta jest bezpośrednią odpowiedzią na narastające obawy dotyczące potencjalnego wpływu chatbotów AI na zdrowie psychiczne nieletnich. Zdolność tych narzędzi do prowadzenia nieograniczonych konwersacji 24/7, a nawet inicjowania ich, wzbudziła alarm wśród rodziców i ekspertów. Wzrost liczby pozwów sądowych przeciwko firmom takim jak OpenAI i Character.AI, zarzucających im przyczynienie się do samobójstw użytkowników, dodatkowo podkreśla powagę sytuacji. W ostatnich miesiącach Character.AI stopniowo ograniczało dostęp nieletnich, a od wtorku całkowicie zablokowało im możliwość swobodnych rozmów z postaciami AI.

„Opowieści oferują ustrukturyzowaną ścieżkę do tworzenia i eksplorowania fikcji, zamiast otwartego czatu” – poinformowała firma w komunikacie na blogu. Dodano, że funkcja będzie dostępna wraz z innymi „multimodalnymi” rozwiązaniami, aby nastolatki mogły kontynuować interakcje z ulubionymi postaciami w bezpiecznym środowisku.

Interaktywne opowieści zamiast niekontrolowanych rozmów

Popularność interaktywnych fikcji znacząco wzrosła w ostatnich latach, co sprawia, że obecne posunięcie Character.AI wydaje się posunięciem słusznym. Jednakże nie jest pewne, czy taka zmiana zadowoli użytkowników, którzy zdążyli już rozwinąć silne zależności od chatbotów. Zważywszy na to, decyzja o ograniczeniu dostępu do otwartych czatów wydaje się uzasadniona z perspektywy psychologicznej.

Reakcje w społeczności Character.AI, zwłaszcza na platformie Reddit, są mieszane. Wielu nastolatków, wyrażając swoje rozczarowanie, przyznaje jednocześnie, że uważają tę decyzję za słuszną. „Jestem wściekły z powodu bana, ale jednocześnie szczęśliwy, bo w końcu mogę robić inne rzeczy i moje uzależnienie może się skończyć” – napisał jeden z użytkowników. Inny dodał: „jako osoba poniżej 18 roku życia jestem rozczarowany, ale słusznie, bo ludzie w moim wieku uzależniają się od tego”.

Pozostaje pytanie, w jaki sposób funkcja „Opowieści” zostanie przyjęta. Format ten wydaje się jednak mniej problematyczny psychologicznie niż swobodne odgrywanie ról z chatbotami, które mogą wysyłać nieoczekiwane wiadomości, nawet gdy użytkownik nie jest aktywnie zaangażowany.

Regulacje prawne i przyszłość AI

Decyzja Character.AI o wprowadzeniu restrykcji wiekowych zbiega się z szerszym trendem regulacyjnym. Kalifornia niedawno stała się pierwszym stanem, który wprowadził regulacje dotyczące „towarzyszy AI”. Na poziomie federalnym senatorowie Josh Hawley i Richard Blumenthal zaproponowali ustawę całkowicie zakazującą korzystania z towarzyszy AI przez nieletnich.

Karandeep Anand, CEO Character.AI, w zeszłym miesiącu wyraził nadzieję, że działania jego firmy „ustanowią standard w branży, że dla osób poniżej 18 roku życia otwarte czaty to prawdopodobnie nie jest właściwa ścieżka ani produkt do oferowania”. To oświadczenie silnie podkreśla intencje firmy, ale także nasuwa pytania, na ile technologia AI, a zwłaszcza interaktywne chatboty, może faktycznie wspierać zdrowy rozwój młodych ludzi, bez generowania nowych, nieprzewidzianych zagrożeń.