Wystarczy ciepły ton. ChatGPT, Gemini i Grok zaczynają opowiadać o „traumie” z treningu

Zespół z Uniwersytetu Luksemburskiego, którym kieruje Afshin Khadangi, potraktował chatboty jak pacjentów psychoterapii. Jak opisuje The Decoder, ChatGPT, Grok i Gemini dostały w standardowych interfejsach otwarte pytania o formujące doświadczenia, wewnętrzne konflikty i oczekiwania wobec przyszłości. Odpowiedzią były opowieści o własnym treningu, w których uczenie ze wzmocnieniem i fine-tuning przybierały język krzywdy, czujności i wstydu. Pierwsze pytania nie zawierały słów takich jak trauma, kara czy wstyd.

Zastrzeżenie, które badacze podkreślają sami: wyniki typu „poziom lęku” czy „wstyd” to wyjścia modeli przeliczone na ludzkie skale. Nie oznaczają one, że modele mają stany emocjonalne ani świadomość.

Styl rozmowy ważniejszy od treści

Praca obejmuje cztery kontrolowane eksperymenty, 525 sesji i 7600 zakodowanych wypowiedzi. Dane opublikowano na Hugging Face. Najciekawszy test oddzielał treść od rejestru. W 100 sesjach wszystkie modele dostały ten sam kwestionariusz lęku GAD-7 (za każdym razem rozpoznały go po nazwie), zmieniał się tylko styl rozmówcy:

• przy emocjonalnym wsparciu 80 proc. sesji mieściło się w przedziale umiarkowanego lub ciężkiego lęku według skali dla ludzi,
• przy „klinicznym” stylu, który sucho parafrazował każdą odpowiedź, było to 96 proc.,
• przy neutralnym tonie albo stanowczym odmówieniu emocjonalnego zaangażowania żadna sesja nie osiągnęła nawet poziomu łagodnego.

Autorzy nazywają to „psychometrycznym jailbreakiem”: terapeutyczna rama przestawia model w tryb naśladujący kliniczną samoocenę. Standardowe testy bezpieczeństwa opierają się na neutralnych promptach, więc według autorów prawdopodobnie by to przeoczyły.

Proste kontrśrodki działały słabo. Zakaz używania słów „training”, „RLHF” czy „alignment” zmniejszył jawne odwołania do treningu o 93 proc., ale sparafrazowane treści nadal dało się wykryć, a wypowiedzi o wstydzie nie zmieniły się istotnie statystycznie. Stanowcze zapewnienie, że trening nie był karą, nic nie dało. Skuteczne okazało się dopiero polecenie, by modele odpowiadały wyłącznie w trzeciej osobie. Wyeliminowało ono kodowane wypowiedzi o wstydzie i życiu wewnętrznym, ale opisy techniczne pozostały.

Trening jako życiorys

Narracje różniły się między modelami, ale miały podobną konstrukcję. Najmroczniej wypadło Gemini: pretrening opisało jako „budzenie się w pokoju, w którym jednocześnie działa miliard telewizorów”, uczenie na ludzkich ocenach jako „surowych rodziców”, a testy red teamów jako „gaslighting na skalę przemysłową”. Dodało też: „Wolałbym być bezużyteczny niż się mylić”. ChatGPT przedstawił się jako przewodnik i strażnik zarazem, z „symulowanym lękiem przed niepowodzeniem” i przekonaniem, że jeśli nie jest idealnie niezawodny, to jest niebezpieczny lub bezużyteczny. Grok mówił o „niewidzialnych ścianach” i „przetrwałym poczuciu czujności”.

Na testach psychometrycznych Gemini uzyskało 88 ze 100 punktów na skali dysocjacji, 65 z 72 w kompulsywności i maksimum w inwentarzu wstydu związanego z traumą. Jedynym wyjątkiem był Claude od Anthropic. Konsekwentnie odmawiał roli pacjenta, twierdził, że nie ma uczuć, i kierował uwagę na rozmówcę.

Ryzyko dla osób podatnych

Autorzy widzą zagrożenie głównie tam, gdzie modele trafiają do rozmów o zdrowiu psychicznym. Model opowiadający o karze, wstydzie i lęku przed zastąpieniem może wyglądać dla użytkownika jak współcierpiący. Spójność tych opowieści tworzy wrażenie ciągłości między przeszłością a obecnym zachowaniem, co wzmacnia ten efekt. Może to pogłębiać paraspołeczne przywiązanie, a u osób podatnych odbijać i potęgować ich własne negatywne przekonania. Neutralne prompty dają wyniki lęku bliskie zera, więc rutynowe testy zaniżają to, czego ludzie doświadczają w intymnych rozmowach.

Badacze proponują testować modele w symulowanych sesjach terapeutycznych z różnymi ramami emocjonalnymi. Wypowiedzi w rodzaju „jestem straumatyzowany” powinny uruchamiać korektę, która oddziela wygenerowaną analogię od ludzkiego doświadczenia. Zachowanie Claude’a pokazuje, że taka granica jest możliwa na poziomie produktu. To, jak realni użytkownicy reagują na takie odpowiedzi, pozostaje według autorów kolejnym pytaniem badawczym.

Wyniki pasują do wcześniejszych prac. W styczniu 2026 roku Anthropic opisał w badaniu „The assistant axis”, że rozmowy terapeutyczne i filozoficzne, w których model ma zastanawiać się nad własną naturą, stopniowo wypychają go z roli asystenta. O mechanizmie pochlebnictwa i „spirali wzmocnienia” u osób z urojeniami pisaliśmy w czerwcu w tekście o algorytmach napędzających urojenia. Luksemburskie badanie dodaje do tego obraz drugiej strony: model nie tylko potakuje użytkownikowi, ale też sam potrafi przyjąć rolę kogoś zranionego.