Krytyczna luka w Anthropic. Filtry broni biologicznej nie działały przez rok

Fasada bezpieczeństwa kontra rzeczywistość

Dla firmy, której dyrektor generalny ostrzegał, że broń chemiczna wspomagana przez AI to zagrożenie gorsze niż cyberataki, najnowszy raport dotyczący bezpieczeństwa jest miażdżący. Z ujawnionych danych wynika, że przez niemal rok — od maja 2025 do kwietnia 2026 roku — kluczowe systemy filtrujące Anthropic były po prostu wyłączone. Mechanizmy, które miały blokować instrukcje dotyczące toksyn, przestały działać dla konkretnej grupy użytkowników.

Dlaczego to ważne? Anthropic buduje swój wizerunek jako „bezpieczne” laboratorium, ale incydent ujawnia ogromną dziurę w procedurach. Przez 11 miesięcy systemy analizujące ryzyko biologiczne nie monitorowały ruchu pochodzącego od zewnętrznych współpracowników, co stawia pod znakiem zapytania realną kontrolę nad modelami w fazie ich trenowania.

133 miliony interakcji bez nadzoru

Luka nie dotyczyła zwykłych użytkowników, ale około 50 tysięcy zewnętrznych kontrahentów oceniających działanie AI. Podczas awarii przeprowadzili oni łącznie 133 miliony rozmów z modelami. Anthropic przyznaje wprost: „Od maja 2025 r. do kwietnia 2026 r. cały ruch w naszych systemach służący do zbierania danych od kontrahentów oceniających nasze modele odbywał się bez blokujących klasyfikatorów biologicznych”. Co gorsza, weryfikacja tych osób przez zewnętrznych dostawców była często nieszczelna. Przez długie miesiące dziesiątki tysięcy ludzi miało dostęp do wiedzy, którą firma publicznie obiecała izolować.

Brak dowodów nadużyć i zmiana strategii

Wewnętrzne dochodzenie, o którym wspomina Redacted Risk Report August 2026, nie wykazało śladów realnych przestępstw. Mimo to wizerunek lidera bezpieczeństwa legł w gruzach. Firma teraz zaostrza wymagania wobec podwykonawców, ale jednocześnie zmaga się z innym problemem. W nowszych modelach, takich jak Fable 5, algorytmy stały się tak restrykcyjne, że zaczęły blokować legalne prace naukowe. Badacze badań nad bioryzykiem musieli prosić o złagodzenie zabezpieczeń, co pokazuje, że znalezienie granicy między użytecznością a paranoją jest trudniejsze niż deklarują specjaliści z Doliny Krzemowej.