Chatbot a groźba przemocy: kiedy twórcy AI powinni zawiadomić policję?
Przez kilka miesięcy przed tragiczną strzelaniną w szkole w Tumbler Ridge sprawca korzystał z ChatGPT, szukając informacji o planowaniu zbrodni. We wrześniu władze kanadyjskiej prowincji Kolumbia Brytyjska pozwały OpenAI oraz Sama Altmana, zarzucając im brak reakcji i niepowiadomienie służb mimo wiedzy o niepokojących konwersacjach. Osobne pozwy wniosły rodziny ofiar. Kierownictwo OpenAI publicznie przeprosiło za brak kontaktu z policją, choć sama firma deklarowała wcześniej, że przekazuje sprawę organom ścigania, gdy rozmowy wskazują na bezpośrednie i wiarygodne zagrożenie dla innych. Opisywany przez Politico system OpenAI flagował rozmowy wskazujące na kryzys psychiczny, ale samo automatyczne oznaczenie nie oznaczało zgłoszenia sprawy policji — do przekazania jej służbom mogło dojść dopiero po późniejszej ocenie przez człowieka. To jednak wyłącznie wewnętrzna polityka firmy, a nie powszechny obowiązek prawny ani deklaracja monitorowania wszystkich rozmów. Sprawa otworzyła trudną debatę prawną i technologiczną: kiedy platformy AI powinny przekazywać rozmowy organom ścigania?
Zamiar zbrodni a fikcja
Sprawy nie da się rozwiązać prostym nakazem raportowania podejrzanych wpisów. Zasadniczą barierą pozostają ograniczenia samych modeli językowych. Jak wskazują eksperci cytowani przez Al Jazeerę, algorytmy nie potrafią niezawodnie odróżnić rzeczywistego zamiaru popełnienia przestępstwa od fikcji literackiej, pracy naukowej czy natrętnych myśli osoby szukającej wsparcia psychicznego. Sam fakt poruszania niebezpiecznego tematu nie dowodzi jeszcze złych intencji.
Przekonała się o tym firma Anthropic, twórca modelu Claude. W sierpniu powiadomiła policję w San Francisco po tym, jak użytkownik miał w rozmowie sugerować posiadanie broni i kierować groźby pod adresem szefa firmy, Dario Amodeia. Mężczyzna tłumaczył później, że był to jedynie żart, i ostatecznie nie usłyszał zarzutów ani nie został zatrzymany. Choć zgłoszenie pokazało, jak łatwo o fałszywy alarm, unaoczniło też presję spoczywającą na twórcach oprogramowania, którzy muszą reagować na potencjalne niebezpieczeństwo.
Prywatność i ryzyko dyskryminacji
Wprowadzenie stałego monitorowania wszystkich interakcji niosłoby poważne konsekwencje społeczne. Użytkownicy powierzają chatbotom osobiste dylematy, a świadomość, że prywatne zwierzenia mogą w każdej chwili trafić na policję, mogłaby zniechęcić do szukania pomocy osoby w kryzysie. W amerykańskim systemie prawnym ciągła kontrola korespondencji budzi także wątpliwości w świetle konstytucyjnej ochrony przed nieuzasadnioną ingerencją państwa.
Istnieje również ryzyko nierównego traktowania. Prawnicy zwracają uwagę, że filtry bezpieczeństwa mogą powielać uprzedzenia zaszyte w danych treningowych — wypowiedzi przedstawicieli mniejszości bywają statystycznie częściej klasyfikowane jako agresywne lub niebezpieczne, co grozi nadmiernym nadzorem wobec wybranych grup.
Brak jednoznacznych przepisów
Wielu komentatorów porównuje obowiązki firm technologicznych do obowiązków terapeutów, na których w określonych sytuacjach ciąży prawny obowiązek ostrzeżenia przed niebezpiecznym pacjentem. Bryan Choi, profesor prawa na Uniwersytecie Kolorado w Boulder, podkreśla jednak, że orzecznictwo nie nakłada takiego samego obowiązku na twórców AI. Chatbot nie jest licencjonowanym specjalistą zdrowia psychicznego, a platformy nie łączy z potencjalnymi ofiarami żadna szczególna relacja prawna.
Część ekspertów proponuje, aby standardy oceny zagrożeń nie były ustalane wyłącznie przez prywatne korporacje w ramach wewnętrznych regulaminów, lecz przez niezależne instytucje. Pozwoliłoby to stworzyć przejrzyste procedury eskalacji i przekazywać służbom wyłącznie niezbędne dane, z poszanowaniem prywatności pozostałych użytkowników. Opublikowany w czerwcu 2026 roku framework dotyczący planowania przemocy proponuje na przykład, by firmy posiadały i ujawniały zasady eskalacji takich przypadków – zgłoszenie władzom miałoby dotyczyć wiarygodnego, konkretnego i bezpośredniego zagrożenia poważną przemocą, bez wprowadzania ogólnego obowiązku monitorowania rozmów. Do czasu wypracowania spójnych norm prawnych granica między prewencją a nadzorem pozostanie jednym z najtrudniejszych dylematów branży sztucznej inteligencji.
