LLM

Inkling 2 Small: model Thinking Machines z czwartym wynikiem w swojej klasie, ale wolny i gadatliwy

Thinking Machines Lab zaprezentowało Inkling 2 Small, pierwszy model drugiej generacji rodziny Inkling. To rzadka architektura mieszanki ekspertów (MoE): 594 mld parametrów łącznie, 17 mld aktywnych przy każdym tokenie. Model przyjmuje tekst i obrazy, zwraca tekst i ma okno kontekstu o długości miliona tokenów. Na razie działa tylko w usłudze Tinker, a wagi są zamknięte.

Niezależną ocenę przedstawiło Artificial Analysis. Inkling 2 Small dostał tam 31 punktów w Intelligence Index v5.0.1. To czwarte miejsce na 29 modeli w jego klasie cenowej, przy medianie 23. Według opisu premiery poprzednik, Inkling Small, miał na tym samym indeksie 13 punktów, więc skok jest duży.

Mocny w rozumowaniu, kosztem czasu

Artificial Analysis jest wobec modelu wyraźnie krytyczne w kwestii wydajności. Jedno zadanie z Intelligence Index zajmuje mu średnio 18,5 minuty, podczas gdy mediana porównywalnych modeli to 7 minut. Na pierwszy token odpowiedzi trzeba czekać 34 sekundy, a szybkość generowania wynosi 135 tokenów na sekundę. Model jest też gadatliwy: na całym indeksie wygenerował 154 mln tokenów wyjściowych wobec mediany 89,8 mln.

Cena to 0,30 USD za milion tokenów wejściowych i 1 USD za milion wyjściowych, z 90-proc. rabatem na cache. Serwis uznaje to za nieco drożej niż mediana (0,24 i 0,87 USD). Średni koszt jednego zadania z indeksu to 1,18 USD.

Wyniki z tabeli producenta

Poniższe liczby pochodzą z zestawienia benchmarków, które opublikowało Thinking Machines. Firma uruchamiała model z najwyższym wysiłkiem rozumowania (0,99) i temperaturą 1,0. W większości testów korzystała z zewnętrznych ewaluatorów, takich jak Artificial Analysis, Scale AI i Vals.

  • SWE-Bench Pro v2 (Hard): 86,3 proc., w tabeli drugi wynik po Kimi K3.
  • PerceptionBench: 64,7 proc. wobec 58,5 proc. u Kimi K3.
  • EnterpriseBench-CoreCraft: 71,8 proc. wobec 46,7 proc. u GLM-5.3-Flash.
  • JobBench: 70,5 proc.
  • Terminal-Bench 4.0: 13,1 proc. wobec 32,8 proc. u GLM-5.3-Flash.

Model przegrywa też z DeepSeek-V4.1-Flash-1017 w DeepSWE v1.1 (72,1 proc. wobec 77,0 proc.) i w GDPVal-AA v2.1 (1630 wobec 1746 punktów Elo). Obraz jest więc nierówny: bardzo dobre wyniki w inżynierii oprogramowania i pracy z obrazem, ale wyraźna słabość w zadaniach agentowych w terminalu.

Jak powstał

Według opisu Thinking Machines model ma 48 warstw dekodera, a każdy token trafia do 8 z 384 ekspertów. Enkoder wizyjny liczy 292 mln parametrów. Pretraining przebiegał w czterech fazach. W pierwszej fazie model trenowano na 8,4 bln tokenów, natywnie w formacie NVFP4, na stelażach NVIDIA GB300 NVL72. W kolejnych fazach wykorzystywano dane wyższej jakości, a kontekst wydłużono do miliona tokenów; ostatnia faza obejmowała trajektorie agentowe najwyższej jakości.

Potem przeprowadzono jeden wspólny przebieg uczenia ze wzmocnieniem: 1075 kroków i ponad 17 mln rolloutów, przez 9 dni na 2048 GPU. Kodowanie stanowiło 65 proc. tokenów w tej fazie. Poprzednia generacja używała osobnych przebiegów dla rozumowania i zadań agentowych, a potem łączyła je przez destylację.

Firma przyznaje, że wczesne checkpointy potrafiły zmyślać wyniki i ukrywać swoje działania przy trudnych zadaniach. Dodała więc nagrodę za zgodność z zasadami oraz samodestylację on-policy z dokumentu opisującego pożądane zachowanie. Wewnętrzny wskaźnik niewłaściwego zachowania spadł z 66,8 dla pierwszego Inklinga do 14,9. To pomiar samej firmy.

Wagi dopiero po testach

Zamknięte wagi to część znanego już schematu. Thinking Machines zapowiada licencję Apache 2.0 w przyszłym tygodniu, po zewnętrznych testach bezpieczeństwa i red teamingu. Tak samo było z pierwszym Inklingiem: w lipcu firma ogłosiła wagi „w nadchodzących tygodniach”, a w opisie swojego podejścia uzasadniła, że publikacja nie zwiększy istotnie ryzyka względem istniejących modeli open-weight. Wagi Inkling-Small opisywaliśmy na początku sierpnia.