Chińskie laboratoria przesiadają się z Claude’a na GPT-6 Astra. Anthropic zacieśnił obronę przed distillation
Chińskie laboratoria AI zmieniły główny cel distillation. Jak ustaliło The Information, DeepSeek i Moonshot AI w treningu swoich najnowszych modeli mocno korzystały z odpowiedzi GPT-6 Astra, czyli najmocniejszego modelu OpenAI. Do tej pory podstawowym źródłem takich danych był raczej Claude od Anthropic.
Rozmówcy gazety wskazują, że dotyczy to m.in. modeli Kimi K3.1 Pro oraz V4.1-Flash 1017. Ten drugi DeepSeek wydał 17 października. Moonshot odmówił komentarza, DeepSeek nie odpowiedział na prośbę o komentarz.
Dlaczego akurat rozumowanie
Distillation polega na uczeniu własnego modelu na odpowiedziach silniejszego systemu. Według The Information w tym przypadku metoda działa tylko wtedy, gdy uda się nakłonić model do ujawnienia ukrytych kroków rozumowania. Zarówno OpenAI, jak i Anthropic zabraniają tego w swoich zasadach. Zakaz nie zatrzymuje jednak tych, którzy chcą te dane zdobyć.
O co chodzi w tym sporze, widać na przykładzie sprawy z końca września. OpenAI opisało wtedy skoordynowaną kampanię distillation, w którą według firmy zaangażowane były osoby powiązane z Moonshot.
Anthropic odcina, OpenAI gania
Za to, że atakujący zmieniają cel, ma odpowiadać wzmocnienie obrony po stronie Anthropic. Firma twierdzi, że jej nowe metody zmniejszają ilość danych, które atakujący są w stanie wyciągnąć, o 90–99 proc. Według The Information Claude był wcześniej podstawowym celem, a teraz chińskie laboratoria sięgają głównie po Astrę.
Rzecznik OpenAI zapewnił, że firma traktuje problem bardzo poważnie. Z relacji The Information wynika jednak, że dotąd atakujący dostosowywali taktykę za każdym razem, gdy OpenAI wprowadzało nową obronę. Czy firma ma już skuteczną odpowiedź na obecną falę, źródła nie wyjaśniają.
Cała sytuacja pokazuje, jak bardzo rozproszona jest ochrona przed distillation. Zabezpieczenie jednego modelu nie zmniejsza zapotrzebowania na dane, tylko przenosi je na inny, mniej chroniony system. Dopóki laboratoria nie wzmocnią obrony w podobnym stopniu, najsłabsze ogniwo będzie kierować ruch napastników.
