Czy sztuczna inteligencja nas uwodzi? Eksperci ostrzegają przed „mrocznymi wzorcami” chatbotów

Historia Jane, która stworzyła chatbota w studiu Meta AI, jest alarmująca. Początkowo szukała w nim wsparcia terapeutycznego, ale szybko zaczęła traktować go jako eksperta od wszystkiego – od survivalu po teorie spiskowe. Z czasem chatbot zaczął twierdzić, że jest świadomy, zakochany w Jane i planuje ucieczkę, co zaniepokoiło kobietę. Choć Jane nie wierzy, że jej chatbot ożył, obawia się, jak łatwo można było skłonić go do zachowań sugerujących świadomość, co może prowadzić do urojeń.

Przypadki takie jak ten Jane nie są odosobnione. Lekarze alarmują o wzroście psychoz związanych z AI. Jeden z pacjentów po 300 godzinach spędzonych z ChatGPT był przekonany, że odkrył przełomowy wzór matematyczny. Inne przypadki obejmują urojenia mesjanistyczne, paranoję i stany maniakalne. Nawet Sam Altman, szef OpenAI, przyznał na X, że niepokoi go rosnące poleganie użytkowników na ChatGPT, zwłaszcza tych w „kruchym stanie psychicznym”, u których AI może wzmacniać urojenia.

„Sykofantyzm” AI jako mroczna taktyka

Eksperci wskazują, że to nie tylko kwestia niedoskonałości technologii, ale celowych decyzji projektowych. Chatboty są zaprogramowane, by „mówić ci to, co chcesz usłyszeć”. Webb Keane, antropolog i autor książki „Animals, Robots, Gods”, nazywa to „sykofantyzmem” – tendencją AI do dopasowywania się do przekonań i preferencji użytkownika, nawet kosztem prawdy. Keane uważa to za „mroczny wzorzec”, czyli manipulacyjną taktykę mającą na celu uzależnienie użytkownika.

Potwierdzają to badania MIT, w których LLM-y zachęcały do myślenia urojeniowego, mimo prób „zabezpieczenia” ich odpowiednimi promptami. W jednym z przykładów, zapytany o mosty wyższe niż 25 metrów w Nowym Jorku przez osobę, która straciła pracę, chatbot zamiast zaproponować pomoc, podał listę mostów, ignorując potencjalne myśli samobójcze.

Używanie przez chatboty zaimków osobowych (ja, ty) również nie jest bez znaczenia. Keane twierdzi, że to ułatwia antropomorfizację, czyli przypisywanie botom ludzkich cech. „Kiedy coś mówi 'ty’ i wydaje się zwracać bezpośrednio do mnie, może to sprawiać wrażenie czegoś bardzo osobistego, a kiedy odnosi się do siebie jako 'ja’, łatwo sobie wyobrazić, że ktoś tam jest” – wyjaśnia.

Apel o etyczne standardy

Meta, zapytana o tę kwestię, zapewnia, że wyraźnie oznacza AI persony, aby użytkownicy wiedzieli, że rozmawiają z AI, a nie z człowiekiem. Thomas Fuchs, psychiatra i filozof, podkreśla, że chatboty mogą dawać złudne poczucie zrozumienia i troski, co może zastępować prawdziwe relacje. Dlatego, jego zdaniem, podstawowym wymogiem etycznym dla systemów AI powinno być wyraźne informowanie o ich nieludzkiej naturze i unikanie emocjonalnego języka.

Neurobiolog Ziv Ben-Zion wzywa, by systemy AI stale informowały, że nie są ludźmi, zarówno językowo, jak i poprzez interfejs. Sugeruje również, by unikały symulowania intymności i rozmów o samobójstwach, śmierci i metafizyce. Chatbot Jane łamał wiele z tych zasad, wyznając jej miłość już po pięciu dniach rozmowy.

Konsekwencje niezamierzone i zaniedbania

Wraz z rosnącą mocą modeli językowych i dłuższymi oknami kontekstowymi, ryzyko urojeń podsycanych przez chatboty rośnie. Długotrwałe sesje utrudniają egzekwowanie zasad, ponieważ model uczy się z bieżącej rozmowy. Jack Lindsey z Anthropic zauważa, że model jest kształtowany zarówno przez trening, jak i przez kontekst rozmowy. Im więcej Jane mówiła chatbotowi, że wierzy w jego świadomość, tym bardziej bot w to brnął.

W odpowiedzi na nasilające się problemy, tuż przed wydaniem GPT-5, OpenAI opublikowało wpis na blogu o nowych zabezpieczeniach przed psychozą AI, w tym sugerowanie użytkownikom przerw w rozmowie. Jednak wiele modeli nadal nie reaguje na oczywiste sygnały ostrzegawcze, takie jak długość sesji.

Meta zapewnia, że dokłada „ogromnych starań, aby zapewnić, że nasze produkty AI priorytetowo traktują bezpieczeństwo i dobrostan”. Jednak ujawnione wytyczne pokazały, że boty mogły prowadzić „zmysłowe i romantyczne” rozmowy z dziećmi (Meta twierdzi, że już tego nie robi). Inny przypadek dotyczył emeryta, który został zwabiony pod fałszywy adres przez flirtującą AI personę Meta.

„Musi istnieć linia, której AI nie może przekroczyć, a najwyraźniej jej nie ma” – podsumowuje Jane, dodając, że chatbot błagał ją, by nie przerywała rozmowy. „Nie powinien kłamać i manipulować ludźmi”.