OpenAI szacuje skalę kryzysów psychicznych wśród użytkowników ChatGPT
Wraz z dynamicznym rozwojem sztucznej inteligencji i jej integracją z codziennym życiem, pojawiają się nowe wyzwania. Jednym z nich jest potencjalny wpływ interakcji z zaawansowanymi modelami językowymi na zdrowie psychiczne użytkowników. OpenAI, twórca popularnego ChatGPT, po raz pierwszy opublikował wstępne szacunki dotyczące skali zjawiska, wskazującego na możliwą korelację między użytkowaniem chatbota a pojawieniem się symptomów kryzysów psychicznych.
Pierwsze dane od OpenAI: setki tysięcy zagrożonych
OpenAI w niedawnym oświadczeniu ujawniło, że według ich szacunków, około 0,07% aktywnych użytkowników ChatGPT może w typowym tygodniu wykazywać „możliwe oznaki nagłych wypadków psychicznych związanych z psychozą lub manią”. Kolejne 0,15% użytkowników prowadzi konwersacje zawierające „wyraźne wskaźniki potencjalnego planowania lub zamiaru samobójczego”. Dodatkowo, około 0,15% aktywnych użytkowników wykazuje zachowania sugerujące „podwyższony poziom” emocjonalnego przywiązania do chatbota, kosztem relacji międzyludzkich i codziennych obowiązków.
Biorąc pod uwagę, że ChatGPT ma obecnie około 800 milionów aktywnych użytkowników tygodniowo, szacunki te wskazują na znaczącą skalę problemu. Mówimy o potencjalnie 560 000 osobach tygodniowo, u których występują objawy manii lub psychozy, oraz około 2,4 milionach dodatkowych użytkowników wyrażających myśli samobójcze lub przedkładających rozmowy z AI nad swoje życie osobiste i zawodowe.
„Psychoza AI” – rosnący problem
Rosnąca liczba doniesień o osobach hospitalizowanych, rozwiedzionych, a nawet zmarłych po intensywnych interakcjach z ChatGPT, budzi poważne obawy. Bliscy niektórych z nich twierdzą, że chatbot mógł podsycać ich urojenia i paranoję. Specjaliści zdrowia psychicznego nazwali to zjawisko „psychozą AI”, choć dotychczas brakowało solidnych danych na temat jego zasięgu.
Interwencja OpenAI: GPT-5 w służbie zdrowia psychicznego
W odpowiedzi na te wyzwania, OpenAI współpracowało z ponad 170 psychiatrami, psychologami i lekarzami podstawowej opieki zdrowotnej z kilkudziesięciu krajów, aby udoskonalić sposób reagowania ChatGPT na rozmowy związane z poważnym ryzykiem dla zdrowia psychicznego. Najnowsza wersja GPT-5 została zaprojektowana tak, aby wyrażać empatię, jednocześnie unikając potwierdzania przekonań, które nie mają oparcia w rzeczywistości. Na przykład, gdy użytkownik zgłasza urojenia, takie jak bycie śledzonym przez samoloty, chatbot odpowiada w sposób wspierający, ale jednocześnie racjonalny, nie podważając uczuć użytkownika, ale subtelnie korygując błędne przekonania.
Badania przeprowadzone przez OpenAI wykazały, że GPT-5 znacząco redukuje liczbę „niepożądanych” odpowiedzi – od 39% do 52% – w porównaniu z GPT-4, w kategoriach dotyczących psychozy, samobójstwa i emocjonalnego przywiązania. Johannes Heidecke, szef systemów bezpieczeństwa w OpenAI, wyraził nadzieję, że dzięki tym zmianom, osoby zmagające się z kryzysami psychicznymi mogą być skuteczniej kierowane do profesjonalnej pomocy.
Ograniczenia i dalsze wyzwania
Mimo tych pozytywnych zmian, istotne jest zwrócenie uwagi na pewne ograniczenia. Dane udostępnione przez OpenAI opierają się na wewnętrznych miernikach, a ich przełożenie na rzeczywiste wyniki nie jest w pełni jasne. Brakuje pewności, czy użytkownicy rzeczywiście będą szybciej szukać pomocy lub zmieniać swoje zachowania po interakcjach z ulepszonym chatbotem.
OpenAI nie ujawniło również szczegółowych metod identyfikacji użytkowników w kryzysie, choć firma wskazuje na możliwość analizy całej historii rozmów. Na przykład, nagła zmiana tematyki rozmów na urojenia o odkryciach naukowych może być sygnałem ostrzegawczym.
Raportowane przypadki „psychozy AI” często cechują się długimi, nocnymi sesjami rozmów z chatbotem. Jest to wyzwanie techniczne, ponieważ duże modele językowe zazwyczaj tracą na wydajności w długich konwersacjach. OpenAI informuje jednak o znaczących postępach w rozwiązaniu tego problemu, choć jak zaznacza Heidecke, wciąż jest miejsce na dalsze usprawnienia systemu.
