StepFun udostępnia wagi modelu o 600 mld parametrów. Uruchomienie wymaga potężnego sprzętu

Firma StepFun udostępniła publicznie wagi swojego flagowego modelu Step 5 Preview w formatach FP8 oraz BF16. O ile sam model można już pobrać, o tyle jego lokalne wdrożenie wiąże się z bardzo wysokim progiem wejścia: zalecane przez twórców konfiguracje sprzętowe wymagają infrastruktury klasy centrum danych.

Step 5 Preview bazuje na architekturze Mixture of Experts (MoE). Cała sieć liczy 600 miliardów parametrów, jednak przy generowaniu pojedynczego tokenu aktywowane jest 27 miliardów. Model obsługuje okno kontekstowe o długości do miliona tokenów, a jego pliki udostępniono m.in. w serwisie Hugging Face oraz na platformie ModelScope.

650 GB wag i wieloukładowe serwery

Sam checkpoint w formacie FP8 waży 650,32 GB. Z dokumentacji opublikowanej przez StepFun wynika, że do uruchomienia modelu w środowiskach takich jak vLLM czy SGLang w precyzji FP8 potrzebne są cztery akceleratory Nvidia B300 lub osiem układów H200 zainstalowanych w jednym serwerze. Wariant BF16 stawia jeszcze większe wymagania: osiem układów B300 w pojedynczym węźle lub 16 jednostek H200 rozłożonych na dwa serwery.

Udostępnienie wag pozwala na niezależne testy i audyt modelu, jednak deklarowane zapotrzebowanie na pamięć VRAM i przepustowość sprawia, że samodzielne hostowanie pozostaje domeną podmiotów dysponujących rozbudowanym zapleczem obliczeniowym.

Nierówne wyniki w testach

Pomiary wydajności wskazują, że możliwości modelu różnią się w zależności od typu zadania. W zestawieniu serwisu Artificial Analysis Step 5 Preview zdobył 43,7 punktu w Intelligence Index, notując mocny wynik 88,3% w teście długiego kontekstu AA-LCR oraz 46,5% w Humanity’s Last Exam.

Gorzej model radzi sobie w zadaniach inżynieryjnych i operacyjnych. W teście Terminal-Bench 4.0 uzyskał 33,3% (wobec 41,9% osiągniętych przez GLM-5.3), a w zestawieniu SRE Bench zanotował zaledwie 0,4%. Z kolei w teście Harvey’s Legal Agent Benchmark wynik wyniósł 9,2%.

W publikowanych przez StepFun zestawieniach porównawczych model wypada blisko konkurencji w zadaniach programistycznych i finansowych (m.in. 66,4% w FrontierFinance). Zestawienia te wymagają jednak ostrożności: testy Step 5 Preview przeprowadzono przy ustawieniu wysiłku rozumowania High, podczas gdy porównywane modele konkurencji działały w trybie Max, co uniemożliwia bezpośrednie zestawienie ich możliwości w identycznych warunkach.