Algorytm w roli świadka. OpenAI zgłosiło FBI planowany akt przemocy

Granica między cyfrowym konfesjonałem a narzędziem nadzoru staje się coraz cieńsza. Przekonał się o tym Darren Zhou, mieszkaniec Florydy, którego interakcje z botem OpenAI doprowadziły wprost przed oblicze wymiaru sprawiedliwości. Sprawa, która swój finał znalazła w sądzie hrabstwa Palm Beach, pokazuje, że mechanizmy moderacji treści w ChatGPT to nie tylko filtry anty-hejtowe, ale realne narzędzie monitorowania zagrożeń fizycznych.

To zdarzenie rzuca nowe światło na to, jak firmy technologiczne zarządzają ryzykiem w relacjach człowiek-maszyna. OpenAI wprost informuje w swoich regulaminach, że mały zespół ludzi może przeglądać interakcje z ChatGPT, jeśli system wykryje, że użytkownik planuje wyrządzić krzywdę innym. W tym przypadku FBI otrzymało powiadomienie dokładnie sześć dni przed aresztowaniem Zhou, co pozwoliło uniknąć tragedii.

Od terapii do gróźb karalnych

Zhou, absolwent Northeastern University z wyróżnieniem i były analityk Goldman Sachs, początkowo używał czatu do przepracowania trudnego rozstania. Jednak z czasem rozmowy z AI przestały przypominać szukanie wsparcia, a stały się poligonem dla makabrycznych scenariuszy. W logach przekazanych przez OpenAI do FBI widniały drastyczne deklaracje: zapowiedzi porwania, gwałtu, morderstwa oraz samobójstwa rozszerzonego. Mężczyzna precyzyjnie opisywał rutynę swojej byłej dziewczyny, jej zainteresowania oraz miejsca, w których bywała, łącząc to z chorobliwą zazdrością o innych mężczyzn.

Śledczy z biura szeryfa, którzy przeanalizowali dwa miesiące zapisów cyfrowych, nie mieli wątpliwości – nie były to tylko wybuchy emocjonalne. Materiał dowodowy wskazywał na metodyczne przygotowania i wielokrotne próby — jak podaje Detroit News — przegadania planu zbrodni z algorytmem. To właśnie ten element systematyczności skłonił firmę Sama Altmana do podjęcia radykalnego kroku.

Polityka bezpieczeństwa w praktyce

Choć OpenAI informuje o moderacji, bezpośrednie zaangażowanie organów ścigania wciąż należy do rzadkości. Przypadek Zhou stanowi precedens w zakresie egzekwowania odpowiedzialności za słowa wypowiadane do maszyny. Systemy wykrywania zagrożeń zadziałały tu jako wczesny system ostrzegania, zanim agresja słowna przeniosła się w pełni do świata realnego. – W poważnych przypadkach firma może wysłać zgłoszenie bezpośrednio do organów ścigania – czytamy w oficjalnych wytycznych firmy.

Równolegle do rozmów z AI, Zhou nękał kobietę setkami wiadomości z generatorów numerów, ignorując prośby o zakończenie kontaktu. Ta kombinacja dowodów – cyfrowych śladów z ChatGPT oraz zabezpieczonej komunikacji bezpośredniej – stała się podstawą do postawienia zarzutów uporczywego nękania, gróźb zabójstwa i bezprawnego użycia telefonu.

Wyrok i refleksja nad prywatnością

Mimo grożących mu 25 lat więzienia, Zhou uniknął osadzenia dzięki ugodzie. Został skazany na osiem lat nadzoru kuratorskiego pod warunkiem podjęcia leczenia psychiatrycznego. Obrona argumentowała, że był to odosobniony epizod wynikający z załamania nerwowego, a oskarżony w rzeczywistości nie posiadał broni, o której wspominał w czatach. Szczegóły sprawy opisuje m.in. Miami Herald.

Sprawa ta pozostawia jednak otwarte pytanie o transparentność cyfrowego dozoru. Użytkownicy często traktują chatboty jak bezpieczną przestrzeń do projekcji własnych myśli, zapominając, że po drugiej stronie znajduje się korporacyjny aparat analityczny, który nie zawaha się donieść na swojego użytkownika, gdy ten przekroczy czerwoną linię bezpieczeństwa publicznego.