Flint od Recursive: model 40B do kodowania, który ma działać lokalnie i szybko

21 października 2026 roku Recursive zaprezentowało Flint, model do agentowego kodowania, który ma działać na sprzęcie użytkownika, bez API i bez wysyłania kodu na zewnętrzne serwery. To pierwszy model firmy. Richard Socher zapowiedział go na X jako „fast local coding model built with our automated research system, the Eureka Machine”. Dwie rzeczy zasługują tu na uwagę: szybkość i sposób powstania modelu.

Duży model, mały koszt tokena

Flint to model typu mixture-of-experts. Według opisu TestingCatalog ma 40 mld parametrów, ale przy każdym tokenie aktywuje tylko 2,5 mld, więc inferencja wymaga znacznie mniej obliczeń. Dokładniejsza jest karta modelu na Hugging Face, która podaje 39,8 mld parametrów łącznie. Oznaczenie „40B-A2.5B” jest więc zaokrągleniem marketingowym. Materiały towarzyszące premierze nie są co do liczby aktywnych parametrów w pełni spójne: w jednych pojawia się około 2,5 mld, w innych około 2,2 mld.

Wyniki prędkości, które podaje Recursive, są mocnym argumentem:

• ponad 125 tokenów na sekundę na MacBooku Pro z M4 Pro,
• ponad 150 tokenów na sekundę na 64-gigabajtowym NVIDIA RTX Spark,
• pomiary dotyczą krótkich kontekstów i zoptymalizowanego silnika firmy.

Flint obsługuje kontekst do 512 tys. tokenów, ale sam producent zaleca nieprzekraczanie 256 tys. Nvidia opisała model jako dostępny na sprzęcie RTX Spark i DGX Spark oraz na kartach GeForce RTX i RTX PRO.

Wyniki i zastrzeżenia

Recursive twierdzi, że Flint wygrywa wśród modeli MoE poniżej 50 mld parametrów w SWE-Bench Pro v2, Terminal-Bench 2.1 i SWE-Bench Verified. Według firmy dorównuje też gęstym modelom kodującym o 25–40 mld parametrów, a działa ponad pięć razy szybciej. To dane własne producenta.

Firma jest przy tym dość ostrożna. Radzi dzielić złożone zadania na mniejsze podzadania i formułować polecenia wprost, bo Flint może wymagać więcej wskazówek niż większe, zamknięte modele. Zakres zastosowań według karty modelu to przeglądanie baz kodu, naprawa błędów, implementacja funkcji i pisanie testów. Lokalny model nie zastąpi więc wielkich modeli w API, ale oferuje coś innego: pracę offline, dane zostają na urządzeniu, a rachunków za tokeny nie ma.

Model zbudowany z pomocą maszyny

Drugi wątek to Eureka Machine, automatyczny system badawczy Recursive. TechCrunch opisuje go tak: system wymyśla pomysły, uruchamia eksperymenty i na podstawie wyników decyduje, co sprawdzić dalej. Wired podkreśla, że firma zautomatyzowała nim większość prac rozwojowych.

Według Recursive niewielki zespół ludzi i agentów zbudował Flinta od zera w niespełna cztery miesiące. Eureka Machine uczestniczyła w pracach nad architekturą, danymi, optymalizatorami, recepturami treningu, infrastrukturą, kwantyzacją i wydajnością inferencji. Proponowała pomysły, wdrażała je i testowała efekty. Poszukiwania zaczęły się od bazowego modelu z 35 mld parametrów i 3 mld aktywnych, a zakończyły na obecnym układzie 40 mld i 2,5 mld.

Najbardziej konkretny przykład dotyczy kwantyzacji. System umieścił warstwę wyjściową w czterech bitach i zastosował offline distillation, w której nauczycielem był model 16-bitowy. Wyniki powstałej wersji NVFP4 różnią się od wyników wersji 16-bitowej o nie więcej niż 0,7 punktu w benchmarkach Recursive. Do tego wymagała prawie o połowę mniej kroków treningowych niż punkt odniesienia z quantization-aware training.

Szybkość to także zasługa oprogramowania. Recursive przygotowało wyspecjalizowane kernele dla projekcji niskobitowych, operacji MoE, uwagi i przetwarzania promptu. Jednym z nich jest megakernel Metal, który łączy przebieg forward w dekodowaniu na układach M4 i M5.

Dostępność

Wagi Flinta wyszły na licencji Apache 2.0 i działają z llama.cpp, Ollamą, Unsloth, LM Studio, vLLM i SGLang. Firma wydała też rec, silnik inferencji dostrojony do tego modelu. Według oficjalnego repozytorium obsługuje on Maki z M4 Pro, M5 Pro i M5 Max i zawiera instrukcję konfiguracji lokalnego agenta kodującego. Podane wyżej wyniki prędkości dotyczą właśnie silnika Recursive, więc w innych narzędziach trzeba się liczyć z innymi liczbami.