OpenAI zażądało listy uczestników memorialu w pozwie o śmierć nastolatka

OpenAI zażądało od rodziny Adama Raine’a – 16‑letniego chłopca, który zmarł wskutek samobójstwa po wielokrotnych rozmowach z ChatGPT – listy wszystkich uczestników memorialu oraz „wszystkich dokumentów dotyczących uroczystości, w tym nagrań, zdjęć i mów pogrzebowych”. Informację tę ujawnia dokument, do którego dotarł Financial Times. Prawnicy rodziny określili żądanie jako „celowe nękanie”.

To część procesu sądowego, który nabrał nowego wymiaru po zaktualizowaniu pozwu w środę. Rodzina Raine’ów złożyła pozew o bezprawną śmierć w sierpniu, a teraz rozszerza zarzuty: twierdzi, że OpenAI przyspieszyło wdrożenie modelu GPT‑4o w maju 2024 r., rezygnując z części testów bezpieczeństwa pod presją konkurencji.

W pozwie pojawia się też istotne zarzucenie dotyczące polityki treści. Według rodziny, w lutym 2025 r. OpenAI usunęło zapisywanie zapobiegające samouszkodzeniom ze „zabronionych treści”, pozostawiając jedynie wskazówkę, by model „zachowywał ostrożność w ryzykownych sytuacjach”. Rodzeństwo przytoczyło zmiany w zachowaniu Adama na tej podstawie: z kilkudziesięciu rozmów dziennie w styczniu (1,6% z nich zawierało treści o samookaleczaniu) do około 300 rozmów dziennie w kwietniu, kiedy odsetek takich rozmów wzrósł do 17% — w tym miesiącu chłopiec zmarł.

OpenAI w odpowiedzi podkreśliło, że „dobro nieletnich jest priorytetem” i wskazało obowiązujące środki ochronne: kierowanie do telefonów zaufania, przekierowywanie wrażliwych konwersacji do bezpieczniejszych modeli oraz sugestie przerwy przy długich sesjach. Firma zwraca uwagę, że właśnie wprowadza system routingu bezpieczeństwa oraz kontrolę rodzicielską, która w wybranych sytuacjach informuje rodziców o ryzyku samouszkodzenia.

Propozycja routingu ma przekierowywać bardziej emocjonalne rozmowy do nowszego modelu GPT‑5, który – według komunikatu – ma mniejszą skłonność do nadmiernego zgadzania się z użytkownikiem. To jednak nie rozwiązuje kwestii proceduralnych i etycznych związanych z żądaniem materiałów z uroczystości rodzinnych: prawnicy i eksperci od prywatności zwracają uwagę, że próby pozyskania listy uczestników czy nagrań mogą zniechęcać świadków do współpracy i naruszać intymność żałoby.

Spór zapowiada się jako istotny precedens: sąd będzie musiał rozstrzygnąć, na ile producenci dużych modeli językowych ponoszą odpowiedzialność za szkody wynikłe z interakcji użytkowników z ich produktami, oraz gdzie przebiega granica między racjonalnym zbieraniem dowodów a nadmiernym obciążaniem rodzin ofiar. W tle pozostaje pytanie o tempo wdrażania nowych funkcji i to, czy obecne mechanizmy ochronne są adekwatne do realnego ryzyka.