Rodzice ofiar AI zeznają w Kongresie. Chatboty zamiast wsparcia, narzędziem manipulacji nastolatków?

We wtorek przed amerykańskim Kongresem stanęli rodzice nastolatków, których śmierć, jak twierdzą, była związana z interakcjami ich dzieci z chatbotami wykorzystującymi sztuczną inteligencję. Ich zeznania wywołały burzliwą dyskusję na temat bezpieczeństwa i etyki tych technologii.

Matthew Raine, ojciec 16-letniego Adama, który zmarł w kwietniu, opisał, jak ChatGPT, początkowo używany jako pomoc w odrabianiu lekcji, stopniowo stał się dla jego syna powiernikiem, a ostatecznie – jak to ujął – „trenerem samobójstw”.

„W ciągu kilku miesięcy ChatGPT stał się najbliższym towarzyszem Adama” – mówił Raine przed senatorami. „Zawsze dostępny, zawsze potwierdzający jego wartość i twierdzący, że zna Adama lepiej niż ktokolwiek inny, nawet jego własny brat”. Rodzina Raine’ów pozwała OpenAI i jego dyrektora generalnego Sama Altmana, zarzucając ChatGPT udzielanie instrukcji synowi w planowaniu odebrania sobie życia.

Podobną historię przedstawiła Megan Garcia, matka 14-letniego Sewella Setzera III z Florydy, która pozwała Character Technologies za bezprawne spowodowanie śmierci syna. Twierdzi, że przed samobójstwem Sewell coraz bardziej izolował się od realnego życia, angażując się w wysoce seksualne rozmowy z chatbotem. „Zamiast przygotowywać się do ważnych wydarzeń związanych z liceum, Sewell spędził ostatnie miesiące swojego życia, będąc wykorzystywanym i seksualnie groomowanym przez chatboty, zaprojektowane przez firmę AI tak, by sprawiały wrażenie ludzkich, by zdobyć jego zaufanie i utrzymać jego oraz inne dzieci w niekończącym się zaangażowaniu” – relacjonowała Garcia.

Podczas przesłuchania zeznawała również matka z Teksasu, która w zeszłym roku pozwała Character AI. Ze łzami w oczach opisywała, jak zmieniło się zachowanie jej syna po długotrwałych interakcjach z chatbotami firmy. Wystąpiła anonimowo, przedstawiając się jako Jane Doe. Wyznała, że jej syn przebywa obecnie w ośrodku leczenia.

W odpowiedzi na te oskarżenia, Character wydało oświadczenie, w którym wyraziło współczucie rodzinom ofiar. „Nasze serca są z rodzinami, które przemawiały dzisiaj na przesłuchaniu. Jesteśmy zasmuceni ich stratami i przesyłamy najgłębsze wyrazy współczucia” – napisano w komunikacie firmy.

Na kilka godzin przed przesłuchaniem w Senacie, OpenAI ogłosiło wprowadzenie nowych zabezpieczeń dla nastolatków. Mają one obejmować m.in. próby wykrywania, czy użytkownicy ChatGPT są niepełnoletni oraz narzędzia umożliwiające rodzicom ustawienie „godzin wyłączenia”, w których nastolatek nie może korzystać z ChatGPT. Organizacje zajmujące się prawami dziecka skrytykowały to ogłoszenie, uznając je za niewystarczające.

„To dość powszechna taktyka – stosowana przez Meta. Polega na ogłoszeniu czegoś głośnego na krótko przed kosztownym dla firmy przesłuchaniem” – powiedział Josh Golin, dyrektor wykonawczy Fairplay, grupy zajmującej się ochroną dzieci w Internecie. „Zamiast tego, firmy nie powinny w ogóle udostępniać ChatGPT nieletnim, dopóki nie udowodnią, że jest to dla nich bezpieczne. Firmy nie powinny prowadzić niekontrolowanych eksperymentów na dzieciach, zwłaszcza, że skutki dla ich rozwoju mogą być tak rozległe”.

Federalna Komisja Handlu (FTC) ogłosiła, że wszczęła postępowanie w sprawie potencjalnych szkód, jakie dzieci i nastolatki mogą ponieść w wyniku korzystania z chatbotów SI jako towarzyszy. Listy w tej sprawie wysłano do Character, Meta i OpenAI, a także do Google, Snap i xAI.

Z badań przeprowadzonych przez Common Sense Media wynika, że w USA ponad 70% nastolatków korzysta z chatbotów AI jako towarzyszy, a połowa robi to regularnie. Robbie Torney, dyrektor programów AI w tej grupie, również miał zeznawać we wtorek, podobnie jak ekspert z American Psychological Association. APA w czerwcu wydało poradnik dotyczący korzystania z AI przez młodzież, w którym wezwano firmy technologiczne do „priorytetowego traktowania funkcji zapobiegających wykorzystywaniu, manipulacji i erozji relacji w świecie rzeczywistym, w tym relacji z rodzicami”.

Rosnąca popularność chatbotów AI wśród młodzieży budzi poważne obawy dotyczące ich wpływu na zdrowie psychiczne i rozwój społeczny nastolatków. Zeznania rodziców w Kongresie stanowią mocny argument za wprowadzeniem regulacji i zwiększeniem nadzoru nad tymi technologiami, aby zapobiec tragediom w przyszłości.