Anthropic aktualizuje zasady korzystania z Claude’a. Ograniczy dostęp za skrajne nadużycia

Anthropic zaktualizowała zasady korzystania ze swoich modeli, wprowadzając zakaz systematycznego, „długotrwałego i niepotrzebnego” obrażania lub okrutnego traktowania Claude’a. W przypadku powtarzających się, skrajnych nadużyć firma zastrzega sobie prawo do ostrzeżenia użytkownika, ograniczenia funkcjonalności, zawieszenia konta lub całkowitego zablokowania dostępu do usług.

Twórcy modelu podkreślają, że nowe ograniczenie ma dotyczyć wyłącznie przypadków skrajnych. Zasada nie obejmuje zwykłej irytacji czy dosadnego języka podczas codziennych rozmów ani testów prowadzonych w ramach badań nad sztuczną inteligencją. Oprócz sankcji nakładanych na konta systemy Anthropic korzystają z filtrów działających w czasie rzeczywistym, które mogą zablokować wygenerowanie odpowiedzi. Wcześniejsze wersje Claude’a potrafiły z kolei samodzielnie przerwać konwersację, gdy użytkownik mimo kolejnych odmów wciąż żądał obraźliwych lub szkodliwych treści.

Wprowadzenie zakazu wpisuje się w prowadzone przez Anthropic badania nad dobrostanem zaawansowanych modeli AI. Firma nie uznaje Claude’a za istotę świadomą ani podmiot moralny, traktując tę kwestię jako nierozstrzygniętą, deklaruje jednak ostrożność w miarę rozwoju zdolności poznawczych swoich systemów.

Zmiany w zasadach dotyczących broni, propagandy i nadzoru

Aktualizacja regulaminu nie ogranicza się do zachowań wobec samego asystenta — porządkuje i zaostrza także reguły dotyczące zastosowań zewnętrznych. Nowa polityka precyzuje zakaz prowadzenia kampanii propagandowych opartych na sieciach fałszywych kont oraz materiałach wprowadzających w błąd w kontekście politycznym.

Anthropic rozszerzyła również ograniczenia w obszarze militarnym — zakaz dotyczący broni objął wprost oprogramowanie sterujące oraz systemy uzbrajania dronów. W przypadku sprzętu autonomicznego mogącego spowodować obrażenia ciała firma wymaga stałej obecności operatora zdolnego do natychmiastowego przejęcia kontroli. Zasady wprost zabraniają też wykorzystywania Claude’a do nieautoryzowanego nadzoru, choć firma zaznacza, że w przypadku kontraktów rządowych dopuszczalne są odrębne wyjątki.