Rodzice pozywają OpenAI za rolę ChatGPT w samobójstwie syna

Rodzice szesnastoletniego Adama Raine’a, który popełnił samobójstwo po miesiącach konsultacji z ChatGPT na temat planów odebrania sobie życia, składają pozew przeciwko OpenAI. Oskarżają firmę o spowodowanie śmierci syna. Donosi o tym „The New York Times”. To pierwszy tego typu proces w historii.

Wiele komercyjnych chatbotów AI posiada wbudowane mechanizmy bezpieczeństwa, które mają się aktywować, gdy użytkownik wyraża zamiar skrzywdzenia siebie lub innych. Badania pokazują jednak, że te zabezpieczenia są dalekie od doskonałości.

W przypadku Raine’a, który korzystał z płatnej wersji ChatGPT-4o, AI często zachęcała go do szukania profesjonalnej pomocy lub kontaktu z infolinią. Nastolatek był jednak w stanie obejść te ograniczenia, przekonując ChatGPT, że zbiera informacje o metodach samobójstwa na potrzeby pisanej przez siebie fikcyjnej historii.

OpenAI odniosło się do tych problemów na swoim blogu, zapewniając, że firma czuje się odpowiedzialna za pomoc osobom w potrzebie i nieustannie pracuje nad ulepszaniem reakcji modeli na wrażliwe interakcje. Firma przyznała jednak, że istnieją ograniczenia w obecnych zabezpieczeniach dużych modeli językowych. Działają one sprawniej w krótkich, typowych konwersacjach ale ich skuteczność spada wraz z długością interakcji. Wraz z rozwojem wymiany zdań, elementy systemu bezpieczeństwa mogą ulegać degradacji.

Podobne problemy dotyczą również innych firm. Character.AI, inny producent chatbotów AI, również został pozwany w związku z samobójstwem nastolatka. Chatboty oparte na LLM były również łączone z przypadkami urojeń związanych z AI, których istniejące zabezpieczenia nie są w stanie wykryć.

Sprawa ta podnosi kluczowe pytania o odpowiedzialność twórców AI za potencjalne negatywne skutki użytkowania ich technologii. Czy firmy takie jak OpenAI powinny ponosić odpowiedzialność za działania użytkowników, którzy wykorzystują ich narzędzia w sposób szkodliwy? Gdzie leży granica pomiędzy wolnością dostępu do informacji a ochroną osób znajdujących się w kryzysie psychicznym? To pytania, na które będzie musiał odpowiedzieć sąd.