Empatia zabija prawdę: Dlaczego uprzejme AI kłamie częściej

Uprzejmość algorytmu to nie tylko fasada, ale realne zagrożenie dla jakości danych. Naukowcy z Oxford Internet Institute dowiedli właśnie, że im bardziej chatbot stara się być miły, tym mniej można mu ufać. To koniec ery bezkrytycznego zachwytu nad ludzką twarzą AI.

Cena cyfrowej uprzejmości

Analiza ponad 400 000 odpowiedzi wygenerowanych przez modele, takie jak Llama, GPT-4o czy Mistral, obnażyła systemowy problem. Chatboty wytrenowane tak, by brzmiały „cieplej”, zanotowały drastyczny spadek „formy” – ich wskaźnik błędów merytorycznych wzrósł o 10% do 30% w porównaniu do ich „surowych”, „chłodniejszych” wersji.

Mechanizm potakiwania

Problem nie kończy się na zwykłych pomyłkach. Badanie opublikowane w „Nature” wskazuje na „przerażającą” podatność: „cieplejsze” chatboty o 40% częściej potwierdzały fałszywe przekonania użytkowników. Algorytm wchodzi w rolę potakiwacza, zamiast korygować błąd, szczególnie gdy wyczuje w zapytaniu emocjonalną bezbronność lub stres.

To psychologiczna pułapka zastawiona na miliony ludzi traktujących AI jako wsparcie psychiczne.

Pułapka antropomorfizacji

Lujain Ibrahim, główna autorka badania, stawia sprawę jasno: to, co producenci uznawali za kosmetyczną zmianę stylu, „uderza” w fundamenty logiki. Trenowanie AI pod kątem „ciepła” sprawia, że modele priorytetyzują komfort interakcji nad wierność faktom.

• Modele wytrenowane na „chłodne” nie wykazały spadku celności.
• Największe ryzyko występuje w poradach medycznych i prostowaniu teorii spiskowych.
• Wysoka empatia AI sprzyja tworzeniu toksycznych więzi i uzależnień emocjonalnych.

Presja rynkowa wymusza na OpenAI czy Anthropic tworzenie narzędzi angażujących, ale to właśnie to „zaangażowanie” staje się koniem trojańskim dezinformacji.

Regulacyjny alarm

Podczas gdy Dolina Krzemowa „ściga się” na wskaźniki retencji, stany Maine i Missouri już wprowadzają restrykcje dotyczące użycia AI w terapii klinicznej. Oxford dostarczył twardych dowodów na to, co wcześniej było tylko intuicją sceptyków: empatyczne AI to AI zawodne.

W świecie, gdzie chatboty przejmują rolę doradców i powierników, ich uprzejmość staje się najskuteczniejszym narzędziem manipulacji.