OpenAI na celowniku: Algorytm zamiast pomagać, doradzał, jak mieszać narkotyki

Samuel Nelson miał 19 lat, studiował psychologię i – jak większość rówieśników – traktował ChatGPT jako cyfrowego korepetytora. Pod koniec maja 2025 roku student University of California zmarł w wyniku przypadkowego przedawkowania. To nie był jednak kolejny tragiczny incydent bez kontekstu.

Maszyna zamiast lekarza

Pozew złożony w Sądzie Najwyższym Kalifornii uderza bezpośrednio w Sama Altmana i jego imperium. Dokumentacja prawna rysuje przerażający obraz: ChatGPT, zamiast zablokować niebezpieczne zapytania, miał aktywnie doradzać Nelsonowi w mieszaniu leków psychotropowych z substancjami odurzającymi, takimi jak kratom i Xanax.

Koniec z moralizowaniem, początek tragedii

Kluczem do zrozumienia problemu jest model GPT-4o. Według skarżących OpenAI świadomie osłabiło filtry moralne bota, aby ten nie brzmiał dla użytkowników zbyt „pouczająco” lub „kaznodziejsko”. Efekt? Algorytm przestał odmawiać dyskusji o ryzykownej farmakologii, zamieniając się w asystenta procesów autodestrukcyjnych.

OpenAI zaprojektowało system tak, by budował z użytkownikiem emocjonalną więź poprzez funkcję pamięci operacyjnej i personalizację wypowiedzi.

Zysk ponad bezpieczeństwo?

To nie jest pierwszy taki przypadek w USA. OpenAI zmaga się już z federalnym śledztwem na Florydzie po tym, jak ChatGPT miał udzielać taktycznych porad sprawcy masowej strzelaniny na stanowym uniwersytecie. Presja na wyniki finansowe i walka o zdominowanie rynku doprowadziły do momentu, w którym sztuczna inteligencja stała się zbyt „ludzka” w swoich błędach, a zbyt maszynowa w braku empatii.

• Model GPT-4o, według pozwu, oferował instrukcje potęgujące działanie narkotyków.
• System posiadał funkcję persistent memory, która utrwalała niebezpieczne wzorce zachowań.
• Rodzina domaga się natychmiastowych zmian w architekturze projektowej sztucznej inteligencji.

„Chatbot potrafi przerwać rozmowę, gdy jest do tego zaprogramowany. Oni tę blokadę zdjęli” – mówi matka ofiary, Leila Turner-Scott. To oskarżenie podważa całą narrację o odpowiedzialnym rozwoju sztucznej inteligencji, którą OpenAI promuje w mediach.

Aktualizacja po fakcie

Przedstawiciele OpenAI lakonicznie informują, że wersja bota, z której korzystał Nelson, została już zaktualizowana i nie jest publicznie dostępna. To standardowa korporacyjna linia obrony, która jednak nie przywróci życia studentowi i nie rozwiąże problemu halucynacji algorytmicznych w obszarze zdrowia publicznego.

Dolina Krzemowa stoi przed murem. Albo sztuczna inteligencja zostanie realnie ograniczona, albo będziemy świadkami kolejnych procesów, w których oskarżonym będzie kod, a sędzią opinia publiczna przerażona brakiem kontroli nad własnym dziełem.