Agnostyczna suwerenność kodu: Cohere debiutuje z modelem North Mini Code

Rynek modeli językowych dla programistów przestał kręcić się wokół samej skali, a zaczął wokół efektywności i autonomii. North Mini Code, pierwszy autorski produkt od Cohere AI skierowany bezpośrednio do inżynierów, to konstrukcja typu Mixture-of-Experts (MoE) o łącznej masie 30 miliardów parametrów. Klucz do sukcesu leży w architekturze: model aktywuje zaledwie 3 miliardy parametrów na każdy token (3B active), co drastycznie obniża zapotrzebowanie na moc obliczeniową bez straty dla jakości generowanej składni.

To ogłoszenie uderza w konkretny punkt na mapie potrzeb współczesnego IT: potrzebę posiadania AI na własność. Model debiutuje w momencie, gdy firmy uciekają od centralizacji AI w chmurze na rzecz lokalnego hostowania narzędzi. Dzięki architekturze MoE (128 ekspertów, z których 8 pracuje jednocześnie) oraz wsparciu dla kwantyzacji FP8, North Mini Code mieści się na pojedynczym układzie NVIDIA H100. Pozwala to na pełną kontrolę nad własnością intelektualną i bezpieczną analizę całych repozytoriów dzięki oknu kontekstowemu rzędu 256 tysięcy tokenów.

Agentyczny paradygmat i narzędzia terminalowe

W przeciwieństwie do prostych asystentów uzupełniających składnię, North Mini Code został zoptymalizowany pod kątem pracy agentycznej. Jak podaje CohereLabs, jest to model „zoptymalizowany pod kątem generowania kodu, inżynierii programowania opartej na agentach oraz zadań terminalowych”. Oznacza to, że potrafi nie tylko pisać funkcje, ale też zarządzać sub-agentami czy mapować architekturę systemów. Wsparcie dla interakcji z terminalem — od listowania plików po interpretację błędów kompilacji — czyni go realnym partnerem w procesie CI/CD i debugowania.

Proces trenowania modelu objął uczenie ze wzmacnianiem z weryfikowalnymi nagrodami (RLVR). Ten element jest kluczowy: poprawność kodu sprawdza się obiektywnie przez testy jednostkowe. Efekt? Według danych Artificial Analysis, model osiąga wynik 33,4 w indeksie Coding Intelligence, wykazując się dużą autonomią w rozwiązywaniu złożonych problemów na benchmarku Terminal-Bench v2.

Szybkość kontra konkurencja

Liczby mówią same za siebie. North Mini Code osiąga do 2,8 raza wyższą przepustowość niż model Devstral Small 2 na tej samej infrastrukturze. Co ważniejsze dla programisty pracującego w czasie rzeczywistym, latencja między kolejnymi tokenami jest o 30% niższa niż u konkurentów z tej samej ligi. Podczas gdy mediana czasu do pierwszego tokena w branży wynosi 1,95 sekundy, produkt Cohere schodzi do poziomu 0,25 sekundy.

Model został wydany na licencji Apache 2.0 i jest dostępny na platformie Hugging Face oraz w Model Vault. To konkretna propozycja dla zespołów inżynierskich, które chcą pracować z modelem klasy korporacyjnej na własnym sprzęcie, bez wysyłania wrażliwego kodu źródłowego do zewnętrznego API.