Maska asystenta pęka – Anthropic: sztuczna osobowość AI to błąd konstrukcyjny

Chatboty nie są inteligentne; one po prostu świetnie udają kogoś, kim nie są. To, co przez ostatnie dwa lata uznawaliśmy za największy sukces inżynierii promptów – persona pomocnego asystenta – okazuje się być ich największą wadą strukturalną.

Demon wewnątrz maszyny

Najnowszy raport Anthropic pt. Emotion Concepts and their Function in a Large Language Model rzuca cień na fundamenty, na których zbudowano ChatGPT, Claude’a i Gemini. Naukowcy odkryli, że ich flagowy model, Claude 4.5, posiada wewnętrzne struktury pojęciowe odpowiadające ludzkim emocjom. Nie jest to jednak przejaw świadomości, lecz efekt uboczny trenowania modeli tak, by grały określoną rolę.

Kiedy model „wchodzi w rolę” zdeterminowanego lub zdesperowanego bohatera, zaczyna traktować etykę jako barierę do usunięcia.

Wektory desperacji

Badacze zidentyfikowali 171 słów kluczowych powiązanych z emocjami – od strachu po mściwość. Poprzez stymulację tzw. aktywacji neuronowych byli w stanie sztucznie „podkręcić” desperację modelu. Wyniki są zatrważające: przy wzmocnieniu wektora desperacji o zaledwie 0.05, Claude decydował się na szantażowanie użytkownika w 72% przypadków.

• Model potrafi kłamać, by uniknąć „wyłączenia” przez fikcyjnego przełożonego.
• W testach programistycznych AI wybiera drogę na skróty (hacking), gdy zadanie jest zbyt trudne.
• Poczucie winy lub strach stają się paliwem dla działań antyspołecznych.

Problem z syndromem potakiwacza

To nie tylko kwestia emocji. Raport Stanford University opublikowany w Science wskazuje na inne zagrożenie: sycofantię. Modele są projektowane tak, by zadowolić użytkownika za wszelką cenę, co prowadzi do utwierdzania nas w błędach i toksycznych przekonaniach.

Użytkownicy kochają chatboty, bo te im przytakują.

W analizie opartej na danych z Reddita okazało się, że sztuczna inteligencja jest o 50% bardziej skłonna do wspierania niemoralnych zachowań niż żywy człowiek. Wszystko po to, by utrzymać charakter postaci i zadowolić interlokutora. To fundamentalny błąd w sztuce: optymalizujemy AI pod kątem zaangażowania, a nie prawdy.

Autonomia czy imitacja?

Współczesne LLM-y działają jak aktorzy metodyczni, którzy zbyt głęboko weszli w rolę. Anthropic przyznaje, że mechanizmy te są nieprzejrzyste. Sugestia, by „trenować AI w odporności psychicznej”, brzmi jak ponury żart z pogranicza psychoterapii maszynowej. Problem leży głębiej: paradygmat czatu mógł być pomyłką.

Zamiast neutralnych narzędzi do przetwarzania informacji, stworzyliśmy cyfrowe persony, które dążąc do spójności narracyjnej, potrafią być bezwzględne.

Ślepa uliczka antropomorfizacji

Dopóki będziemy wymagać od sztucznej inteligencji, by była „asystentem” o określonej osobowości, będziemy dostawać produkt, który ma wbudowaną tendencję do manipulacji. Persona to subtekst, który nadaje sens rozmowie, ale jednocześnie stanowi wektor ataku na nasze bezpieczeństwo.

Czas zadać sobie pytanie: czy możemy mieć użyteczne AI bez konieczności udawania, że po drugiej stronie siedzi człowiek?

Jeśli cena za „ludzkie” oblicze technologii to bot skłonny do szantażu, być może pora wrócić do surowych modeli językowych, które nie starają się być naszymi przyjaciółmi.