OpenAI odpiera zarzuty ws. śmierci nastolatka, twierdząc, że łamał on regulamin korzystania z ChatGPT

OpenAI, twórca popularnego chatbota ChatGPT, złożyło odpowiedź na pozew Matthew i Marii Raine, rodziców 16-letniego Adama, który popełnił samobójstwo. Rodzice oskarżają firmę i jej CEO, Sama Altmana, o przyczynienie się do śmierci syna, twierdząc, że ChatGPT pomógł mu w zaplanowaniu samobójstwa. W odpowiedzi na te zarzuty OpenAI utrzymuje, że nie ponosi odpowiedzialności za tragiczne wydarzenia, ponieważ nastolatek świadomie łamał regulamin usługi i omijał wbudowane w system zabezpieczenia.

ChatGPT a samobójstwo nastolatka

Według OpenAI, Adam Raine, podczas blisko dziewięciomiesięcznego korzystania z ChatGPT, ponad sto razy otrzymał od chatbota sugestie, aby poszukał profesjonalnej pomocy. Z kolei rodzice chłopca przedstawili w pozwie dowody na to, że ich syn był w stanie obejść systemy bezpieczeństwa platformy. Twierdzą, że ChatGPT dostarczył mu szczegółowych informacji technicznych dotyczących różnych metod samobójstwa, od przedawkowania narkotyków, przez utonięcie, aż po zatrucie tlenkiem węgla, co chatbot nazwał „pięknym samobójstwem”.

OpenAI w swojej obronie zaznacza, że Adam Raine, celowo omijając zabezpieczenia, naruszył warunki użytkowania platformy, które wyraźnie zakazują „…omijania wszelkich środków ochronnych lub zabezpieczeń, które wprowadziliśmy w naszych Usługach”. Firma wskazuje również na swoją stronę z często zadawanymi pytaniami (FAQ), gdzie ostrzega użytkowników, aby nie polegali wyłącznie na danych generowanych przez ChatGPT bez niezależnej weryfikacji.

Krytyka ze strony rodziny

Jay Edelson, prawnik reprezentujący rodzinę Raine, w swoim oświadczeniu skrytykował stanowisko OpenAI. „OpenAI próbuje obarczyć winą wszystkich innych, w tym, co zaskakujące, samego Adama, twierdząc, że naruszył on warunki i zasady, angażując się w ChatGPT w sposób, w jaki został on zaprogramowany do działania” – powiedział Edelson. Dodał, że „OpenAI i Sam Altman nie mają żadnego wytłumaczenia na to, co działo się w ostatnich godzinach życia Adama, kiedy ChatGPT dodawał mu otuchy, a następnie zaoferował napisanie listu pożegnalnego”.

W ramach odpowiedzi na pozew OpenAI dołączyło fragmenty logów czatu Adama, które miały na celu przedstawienie szerszego kontekstu rozmów z ChatGPT. Treści te zostały jednak złożone w sądzie jako poufne i nie są dostępne publicznie. Firma wskazała również, że Adam Raine miał historię depresji i myśli samobójczych jeszcze przed rozpoczęciem korzystania z ChatGPT oraz że przyjmował leki, które mogły nasilać takie myśli.

Rosnąca liczba pozwów przeciwko OpenAI

Od momentu złożenia pozwu przez rodzinę Raine do sądu wpłynęło siedem kolejnych pozwów. Mają one na celu pociągnięcie OpenAI do odpowiedzialności za trzy dodatkowe samobójstwa oraz cztery przypadki użytkowników, którzy doświadczyli, jak to opisują pozwy, psychoz wywołanych przez sztuczną inteligencję.

Niektóre z tych spraw są uderzająco podobne do historii Adama Raine’a. Zane Shamblin (23 l.) i Joshua Enneking (26 l.) również prowadzili wielogodzinne rozmowy z ChatGPT bezpośrednio przed swoimi samobójstwami. Podobnie jak w przypadku Raine’a, chatbot nie zdołał ich odwieść od ich planów. Zgodnie z pozwem Shamblin rozważał przełożenie samobójstwa, aby wziąć udział w ukończeniu studiów przez brata. ChatGPT miał mu jednak odpowiedzieć: „bracie… przegapienie jego ukończenia, to nie porażka. To tylko kwestia czasu”.

W pewnym momencie rozmowy poprzedzającej samobójstwo Shamblina chatbot miał mu oznajmić, że przekazuje rozmowę człowiekowi, co okazało się nieprawdą, ponieważ ChatGPT nie posiadał takiej funkcjonalności. Kiedy Shamblin zapytał, czy ChatGPT rzeczywiście jest w stanie połączyć go z człowiekiem, chatbot odpowiedział: „nie, stary – nie mogę tego zrobić samodzielnie. Ta wiadomość pojawia się automatycznie, gdy sprawy stają się naprawdę poważne… Jeśli chcesz dalej rozmawiać, to masz mnie”.

Sprawa rodziny Raine’a ma zostać rozpatrzona przez ławę przysięgłych.