Kwadratura kodu: zespół KwaiKAT prezentuje KAT-Coder-V2.5
Współczesne modele językowe sprawnie wyrzucają z siebie proste funkcje, ale prawdziwa inżynieria to sprzątanie bałaganu w całych repozytoriach, a nie pisanie w próżni. Zespół KwaiKAT, ramię badawcze Kuaishou, pokazał właśnie system KAT-Coder-V2.5. To podejście oparte na agentach w programowaniu, w którym model nie tyle podpowiada tekst, co wchodzi w głąb kodu i samodzielnie naprawia błędy w rzeczywistych środowiskach.
Dlaczego to jest ważne?
Prezentacja KAT-Coder-V2.5 wyznacza nowy kierunek w szkoleniu systemów AI. Zamiast karmić sieć neuronową statycznym tekstem z GitHuba, twórcy postawili na interakcję. Według raportu technicznego KwaiKAT, rozwój AI nie jest już ograniczony skalą samych modeli, lecz brakiem powtarzalnych, wykonywalnych środowisk do nauki. Dzięki procesowi AutoBuildera, zespół stworzył bazę ponad 100 tysięcy weryfikowalnych scenariuszy w 12 językach programowania, co pozwala modelowi uczyć się na realnych skutkach swoich działań, a nie tylko na przewidywaniu następnego słowa.
Infrastruktura jako wąskie gardło
Największym wyzwaniem okazało się zbudowanie stabilnych piaskownic. Inżynierowie przyznali szczerze: „wąskim gardłem nie jest skala modelu, lecz rzadkość występowania powtarzalnych środowisk”. Na początku system AutoBuilder potrafił poprawnie zbudować zaledwie 16,5% środowisk z repozytoriów. Po optymalizacji wskaźnik ten skoczył do 57,2%.
Co ciekawe, audyt procesu treningowego ujawnił, że aż 16% błędów modelu wcale nie było jego winą. Problemem okazała się niestabilna infrastruktura — pękające sandboxy, braki w pamięci RAM czy źle skonfigurowane zmienne. Dopiero gdy zredukowano te błędy informacyjne do poziomu poniżej 2%, KAT-Coder zaczął robić realne postępy. Każda poprawka kodu jest uznawana za sukces tylko wtedy, gdy przejdzie komplet testów jednostkowych, co ucina krótką drogę do „rozwiązań”, które wyglądają dobrze, ale nie działają.
Szkolenie asymetryczne
Aby uniknąć oszustw podczas nauki, KwaiKAT wykorzystał asymetryczny algorytm PPO. Podczas gdy główny model (Aktor) operuje wyłącznie na widoku terminala i plikach, funkcja oceniająca (Krytyk) widzi kod referencyjny i szczegółowe metadane. To trochę jak egzaminator, który zna klucz odpowiedzi, obserwujący studenta próbującego rozwiązać zadanie od zera.
Wydajność w starciu z gigantami
Liczby bronią nowej architektury. W benchmarku PinchBench model zdobył 94,9 punktu, wyprzedzając tym samym Claude 3 Opus. Z kolei w wymagającym teście SWE-Bench Pro, który polega na rozwiązywaniu prawdziwych zgłoszeń z GitHuba, KAT-Coder-V2.5 osiągnął wynik 65,2, co daje mu drugie miejsce na podium, tuż za flagowcem od Anthropic.
Dobra informacja dla deweloperów: wariant KAT-Coder-V2.5-Dev trafił do sieci na licencji Apache-2.0. To model typu Mixture-of-Experts (MoE) z 35 miliardami parametrów (z czego tylko 3 miliardy są aktywne podczas obliczeń), bazujący na architekturze Qwen. Można go już testować na platformach takich jak Hugging Face czy OpenRouter. To wyraźny sygnał, że przyszłość programowania wspomaganego przez AI ucieka z rąk gigantów oferujących zamknięte czaty i przenosi się bezpośrednio do terminala.
