Inkling Small: Mira Murati stawia na efektywność zamiast gigantomanii
Mira Murati, po odejściu z OpenAI, nie zamierza brać udziału w wyścigu na liczbę parametrów liczonych w biliardach. Jej nowe laboratorium, Thinking Machines, właśnie wypuściło model Inkling Small. To ruch pod prąd rynkowym trendom: model ma 276 miliardów parametrów, ale podczas pracy aktywuje tylko 12 miliardów z nich. Zamiast budować cyfrowe monstrum, zespół Murati stworzył narzędzie, które myśli szybciej i taniej od rynkowych gigantów.
Dlaczego to ważne teraz
W momencie, gdy koszty trenowania i utrzymania systemów AI stają się barierą dla mniejszych graczy, Inkling Small udowadnia, że optymalizacja architektury znaczy więcej niż surowa moc obliczeniowa. Model o otwartych wagach (open-weights) osiąga wyniki zbliżone do swojego większego pierwowzoru, korzystając zaledwie z jednej czwartej jego rozmiaru. To sygnał dla branży: czas przestać spalać prąd bez opamiętania.
Mniej znaczy więcej w architekturze Reasoning Models
Strategia Thinking Machines opiera się na prostym haśle: „Efficiency is the point”. Dane z serwisu Artificial Analysis pokazują, że model zdobył 40 punktów w indeksie inteligencji, ustępując pełnej wersji Inklinga o jeden punkt. Kluczem jest architektura, która pozwala utrzymać precyzję rozumowania przy drastycznie niższym zapotrzebowaniu na zasoby.
Przewaga w kodowaniu i ekonomii tokenów
Mimo mniejszej skali, Inkling Small radzi sobie świetnie tam, gdzie liczy się logika. W testach Humanity’s Last Exam oraz GPQA Diamond wykręcił odpowiednio 32% i 89% punktów. Prawdziwa różnica tkwi jednak w portfelu. Podczas gdy konkurencyjny NVIDIA Nemotron 3 Ultra potrzebuje ogromnej liczby tokenów do wykonania zadania, Inkling Small potrzebuje ich około trzy razy mniej. W praktyce oznacza to, że wykonanie tego samego zadania biznesowego staje się znacznie tańsze i szybsze.
Otwartość i fundament pod własne dane
Model obsługuje tekst, obraz i dźwięk, a jego okno kontekstowe mieści do 256 tysięcy tokenów. Thinking Machines udostępniło wagi na platformie Hugging Face na licencji Apache 2.0, co pozwala firmom na swobodne korzystanie z technologii. Mira Murati promuje przy tym narzędzie Tinker, które służy do dotrenowania (fine-tuningu) modelu na własnych, specyficznych danych. To jasny komunikat: Thinking Machines chce być bazą dla specjalistycznych rozwiązań, a nie tylko kolejnym czatem do pisania wierszy.
