Pisała do Claude’a jak do pamiętnika. Po wpisie o strzelaninie jej dane trafiły na policję
Mieszkanka Bonita Springs na Florydzie, Carli Michelle Heller, usłyszała zarzut sporządzenia pisemnej groźby przemocy po tym, jak firma Anthropic przekazała policji treść jej rozmów z chatbotem Claude. Z dokumentów sprawy przywołanych przez lokalną stację WINK News wynika, że kobieta traktowała chatbota jak osobisty pamiętnik.
Według raportu z dochodzenia Heller 26 września napisała w Claude’zie, że zastrzeli pracowników biura szeryfa hrabstwa Lee. Następnego dnia wspomniała w rozmowie, że ma nową broń. Systemy bezpieczeństwa Anthropic automatycznie oznaczyły wiadomości, które następnie sprawdził zespół weryfikacyjny firmy. Po ocenie sytuacji przedstawiciele firmy powiadomili organy ścigania.
Zastępcy szeryfa ustalili tożsamość Heller, dotarli do jej miejsca zamieszkania i zatrzymali ją bez incydentów. Sąd wyznaczył termin rozprawy na listopad. Dostępne materiały ze śledztwa nie zawierają stanowiska oskarżonej ani jej obrońcy.
Przekazanie danych użytkownika organom ścigania wynika wprost z dokumentów regulujących działanie Claude’a. Regulamin usługi dla użytkowników indywidualnych zastrzega firmie prawo do udostępnienia policji wpisów, odpowiedzi generowanych przez model oraz informacji o aktywności na koncie. Z kolei polityka prywatności Anthropic przewiduje ujawnienie danych w sytuacjach, gdy firma w dobrej wierze uzna to za konieczne do zapobieżenia bezpośredniemu zagrożeniu życia lub poważnej krzywdzie. Aktualizacja polityki prywatności zawierająca ten wyjątek obowiązuje od 10 września 2026 r.
To kolejny przypadek, w którym wpisy w Claude’zie stały się powodem zawiadomienia służb. Jak opisał wcześniej dziennik „San Francisco Standard”, Anthropic zgłosiło policji sprawę użytkownika, który w rozmowie z chatbotem wspomniał o posiadaniu karabinu i groził prezesowi firmy, Dariowi Amodeiowi. W tamtym przypadku pracownik weryfikujący treść uznał jednak, że nie ma bezpośredniego zagrożenia, a sam użytkownik tłumaczył swoje słowa żartem i nie usłyszał zarzutów.
