Anthropic rozwija AI dwa razy szybciej niż rok temu, choć Amodei apelował o hamulec

Anthropic rozwija swoje systemy niemal dwa razy szybciej niż rok temu. Takie wnioski płyną z analizy niezależnej organizacji non-profit Model Evaluation and Threat Research (METR) z Berkeley, o której pisze AP. Raport trafił do opinii publicznej w czwartek, a więc w momencie, gdy firma przygotowuje się do wejścia na Wall Street. Zbiega się to z apelem jej własnego szefa o spowolnienie branży.

METR oszacował, że Anthropic poprawia zdolności modeli w „starannie określonych zadaniach” mniej więcej dwa razy szybciej niż rok wcześniej. Reuters, który opisał tę samą analizę, podaje dokładniejszą wartość: 1,9x. Badacze zaznaczają, że znaczną część przyczyn stanowi wsparcie od samej AI. Anthropic potwierdza, że Claude coraz mocniej pomaga w tworzeniu kolejnych, zaawansowanych wersji samego siebie.

Dostęp do danych, jakiego nie było

To Anthropic zaprosiło METR, by zrecenzował jego dane wewnętrzne i porozmawiał z pracownikami. Jeden z dwóch raportów organizacji opiera się na danych dostarczonych przez firmę z około 11 tygodni, od połowy sierpnia do końca października, oraz na tych wywiadach. METR skupił się na dwóch pytaniach: czy tempo wzrostu wewnętrznych możliwości Anthropic przyspieszyło i jak duża część tego przyspieszenia wynika z użycia AI. Organizacja twierdzi, że dostała „niezrównany dostęp do danych wewnętrznych”.

Ma to znaczenie, bo szczegóły o technologii i jej ryzykach dostarczały dotąd głównie same firmy AI. Administracja Donalda Trumpa zachęca je zresztą do samodzielnego nadzoru nad bezpieczeństwem. Warto jednak odnotować, że METR nie jest w pełni oderwany od ocenianych. Sam nie pobiera wynagrodzenia za oceny i żyje z darowizn, ale laboratoria, z którymi pracuje, w tym Anthropic i OpenAI, zapewniają mu dostęp i tokeny wykorzystywane w ocenach, badaniach i inżynierii.

Apel i rzeczywistość

Dario Amodei, o którego ostrzeżeniach przed utratą kontroli nad AI pisaliśmy we wrześniu, w eseju z 12 września wezwał branżę do „spowolnienia tempa, w jakim poprawiamy możliwości modeli AI”, tak by środki bezpieczeństwa mogły nadążyć. Z ustaleń METR wynika, że jego własna firma w tym samym czasie przyspieszała. Sam tekst AP nie rozstrzyga, czy te dwie rzeczy się wykluczają. Pokazuje jednak, że deklaracje i praktyka rozjeżdżają się mocniej, niż można by sądzić.

Współzałożyciel Anthropic Sam McCandlish odpowiedział na raport w długim wpisie na X. Napisał, że wiele wniosków METR pokrywa się z jego własnymi. „AI przyspiesza nasze badania, ale trudno dokładnie określić, jak bardzo” – zaznaczył. Według cytowanej przez AP wypowiedzi McCandlish dodał, że tempo przyspieszania ma istotne implikacje dla bezpieczeństwa, bo determinuje, jak szybko rosną ryzyka związane z zaawansowanymi modelami.

Wątek ten pojawił się też w dokumentach giełdowych. W uzupełnionym prospekcie S-1/A, który opisywaliśmy 3 listopada, firma przyznała, że może „w najbliższym czasie” spełnić własną definicję gwałtownego przyspieszenia postępu dzięki AI. Debiut, zaplanowany na ten miesiąc, ma być największą ofertą publiczną akcji w historii.

Dodatkową wagę nadaje temu fakt, że Anthropic samo otworzyło dane dla zewnętrznych oceniających. Wynik jest jednak jednoznaczny: dwukrotnie szybszy rozwój, w którym AI pomaga budować kolejną AI.