Anthropic twierdzi, że ograniczyło kopiowanie możliwości Claude’a nawet o 99 proc. Kosztem są błędy w blokadach

Anthropic wdrożyło nowe mechanizmy obronne, które mają powstrzymać masowe kopiowanie możliwości modeli z rodziny Claude. Firma twierdzi, że wprowadzone rozwiązania ograniczyły liczbę wyciąganych tokenów związanych z wewnętrznym rozumowaniem modeli o 90–99 proc., a samą skuteczność destylacji zmniejszyły 10–100 razy, przez co udane próby stały się znacznie rzadsze. Podane wyniki opierają się wyłącznie na deklaracjach firmy i nie zostały niezależnie zweryfikowane.

Destylacja polega na systematycznym wykorzystywaniu odpowiedzi zaawansowanego, dużego modelu do trenowania mniejszego systemu. W przypadku modeli wyspecjalizowanych w rozwiązywaniu złożonych zadań celem stają się przede wszystkim pośrednie etapy generowania odpowiedzi, które ujawniają strukturę i proces wnioskowania.

Nowy pakiet zabezpieczeń Anthropic obejmuje:

• ograniczenie bezpośredniego dostępu do wewnętrznych etapów rozumowania modeli,
• klasyfikator analizujący ruch i wykrywający wzorce zapytań typowe dla prób ekstrakcji,
• automatyczne blokowanie kont zidentyfikowanych przez system monitorujący.

Skuteczność automatycznego systemu wiąże się jednak z kosztami ubocznymi. Anthropic informuje, że w ramach przeciwdziałania destylacji zbanowano już dziesiątki tysięcy kont, ale jednocześnie przyznaje, że część nałożonych blokad dotknęła prawidłowo korzystających z usługi, legalnych użytkowników.