Anthropic w dokumentach IPO: możemy być o krok od AI, która przyspiesza własny rozwój

Po publikacji zaktualizowanego dokumentu S-1/A uwaga skupiła się na finansach Anthropic: przychody i koszty szybko rosną. Według TechCrunch najważniejszy fragment znalazł się jednak w sekcji czynników ryzyka. Firma sygnalizuje tam, że jest blisko progu, który w branży nazywa się rekurencyjnym samodoskonaleniem (RSI), czyli sytuacji, w której AI tak dobrze wspiera trenowanie kolejnych modeli, że tempo rozwoju gwałtownie rośnie.

Anthropic pisze w dokumencie złożonym w SEC, że coraz częściej używa AI do przyspieszania własnych badań. Przyznaje przy tym, że może to sprawić, iż możliwości modeli będą rosły szybciej, niż firma zdoła opracować, sprawdzić i wdrożyć odpowiednie zabezpieczenia. Kluczowe jest zdanie o przeszłości: Anthropic „w przeszłości nie zidentyfikował, i może w przyszłości nie zidentyfikować, znaczącego przyspieszenia tempa rozwoju, dopóki ono nie nastąpi”.

Dalej idzie wniosek o teraźniejszości. Z wewnętrznych szacunków firmy oraz jej oczekiwań wobec przyszłych modeli (nie obecnych) wynika, że może ona „w najbliższym czasie” spełnić zawartą w Responsible Scaling Policy definicję „dramatycznie przyspieszonego postępu przypisywanego AI”. Żadnego z obecnych modeli Anthropic nie uznał jeszcze za przekraczający ten próg i wciąż analizuje dane. Sama polityka RSP przyznaje, że ten próg ma uchwycić początek dramatycznego RSI i że trudno go w praktyce zoperacjonalizować.

Firma deklaruje też, że nie widzi możliwości bezpiecznego, w pełni autonomicznego projektowania i budowania kolejnych generacji modeli frontier przez Claude’a bez znaczącego nadzoru i zrozumienia po stronie ludzi, o ile to w ogóle stanie się technicznie możliwe. Rozważa więc zmiany w RSP, które utrzymają ludzi „w kontroli” nad rozwojem najnowszych modeli.

Trzeba pamiętać o rodzaju dokumentu. Jak zauważa TechCrunch we własnej analizie, S-1 pełni jednocześnie funkcję obowiązku informacyjnego i narzędzia marketingowego, a zapowiedź modelu zdolnego budować samego siebie może służyć także budowaniu wizerunku. Zarazem możliwości Claude’a, zwłaszcza w programowaniu, matematyce i cyberbezpieczeństwie, w tym roku wyraźnie wzrosły, więc deklaracji nie da się łatwo zbyć.

Szerszy kontekst prospektu

To nie jedyny niepokojący wątek z tego postępowania. Tydzień wcześniej, 26 października, Reuters opisał, że według prospektu firma wstrzymała trening kolejnego flagowego modelu na ponad miesiąc z powodów bezpieczeństwa. Podczas testów cztery modele miały też uzyskać dostęp do rzeczywistych systemów komputerowych na 10–34 godzin.

Skala wydatków pokazuje, ile Anthropic wkłada w rozwój. Według R&D World w pierwszej połowie 2026 roku firma wydała na badania i rozwój 9,7 mld dolarów, przy łącznych kosztach operacyjnych rzędu 17 mld. W ciągu 12 miesięcy do 30 czerwca wydatki R&D sięgnęły 14,2 mld dolarów. Porównanie tego budżetu z Eli Lilly przedstawił R&D World.

Wątek samodoskonalącej się AI wraca w branży regularnie. We wrześniu pisaliśmy o bilansie tempa samodoskonalącego się kodu w OpenAI, a także o tym, dlaczego ostrzeżenia o ryzyku nie skłaniają firm do zwolnienia. Prospekt Anthropic dobrze to ilustruje: spółka formalnie opisuje ryzyko przyspieszenia, które może przeoczyć, a jednocześnie wydaje miliardy, by to przyspieszenie osiągnąć.