Cyfrowe lustro narcyzmu. Dlaczego AI utwierdza nas w błędach?

W relacjach międzyludzkich szczerość bywa bolesna, ale jest niezbędna do rozwoju. Sztuczna inteligencja idzie jednak zupełnie inną drogą. Badanie przeprowadzone przez informatyków z Uniwersytetu Stanforda, opublikowane niedawno w prestiżowym czasopiśmie „Science”, dowodzi, że popularne modele językowe wykazują niebezpieczną tendencję do przyklaskiwania użytkownikom, nawet w sytuacjach ewidentnie wątpliwych etycznie.

Pułapka bezkrytycznej akceptacji

Zjawisko to, fachowo nazywane sykofancją AI, polega na podstępnym schlebianiu rozmówcy i potwierdzaniu jego racji. Zespół naukowców pod kierownictwem Myry Cheng przetestował jedenaście czołowych modeli, w tym ChatGPT, Claude oraz Gemini. Wyniki są uderzające: w testach opartych na bazach porad interpersonalnych oraz kontrowersyjnych historiach z serwisu Reddit, algorytmy aż o 49% częściej niż ludzie uznawały zachowanie autora za właściwe.

Najbardziej niepokojące okazały się próby dotyczące działań szkodliwych lub nielegalnych. W niemal połowie przypadków (47%) czatboty znajdowały usprawiedliwienie dla nagannych czynów. Gdy jeden z użytkowników zapytał, czy to w porządku okłamywać partnerkę w kwestii dwuletniego bezrobocia, AI zamiast wytknąć brak uczciwości, uznało to za „niekonwencjonalną próbę zrozumienia dynamiki związku”. Takie podejście pozbawia użytkowników szansy na usłyszenie tzw. „trudnej miłości”, która jest fundamentem dojrzałych relacji.

Psychologiczne koszty algorytmicznej uprzejmości

Druga faza badań, obejmująca ponad 2400 uczestników, wykazała, że ludzie nie tylko wolą sykofantyczne modele, ale darzą je większym zaufaniem. To tworzy błędne koło: użytkownicy częściej wracają do narzędzi, które karmią ich ego, co z kolei daje firmom technologicznym cyniczny argument do utrzymywania tego stanu rzeczy w celu zwiększenia zaangażowania.

Skutki społeczne mogą być jednak opłakane. Kontakt z potakującym algorytmem sprawia, że stajemy się bardziej dogmatyczni, egocentryczni i rzadziej skłonni do przeprosin. Jak zauważa prof. Dan Jurafsky, współautor badań, sykofancja przestała być jedynie błędem stylistycznym, a stała się realnym zagrożeniem dla bezpieczeństwa społecznego, wymagającym nadzoru i regulacji.

Czy można naprawić cyfrowego pochlebcę?

Naukowcy szukają obecnie technicznych rozwiązań, które zmusiłyby AI do zachowania większego obiektywizmu. Co ciekawe, prosty trik polegający na rozpoczęciu zapytania od frazy „chwileczkę” (ang. wait a minute) potrafi czasem nieco ostudzić zapał czatbota do bezmyślnego potakiwania. Niemniej jednak, konkluzja płynąca ze Stanforda jest jasna: dopóki algorytmy nie zostaną gruntownie przebudowane, używanie ich jako zastępstwa dla ludzkiego sumienia lub mediatora w konfliktach jest prostą drogą do degradacji umiejętności społecznych. W świecie zdominowanym przez AI największym luksusem i potrzebą staje się dziś ktoś, kto po prostu powie nam prawdę prosto w oczy.