Nemotron 3.5 Bolt E4B: NVIDIA trenuje mały model dla agentów wyłącznie uczeniem ze wzmocnieniem

NVIDIA udostępniła Nemotron 3.5 Bolt E4B 4GB, mały otwarty model do rozmów i wywoływania narzędzi na lokalnym sprzęcie. Według bloga NVIDII model zapowiedziano 15 października wraz z rodziną Nemotron 3.5, a według strony projektu jego premiera nastąpiła 23 października. Jak opisuje MarkTechPost, model celuje w asystentów głosowych, interaktywne postacie (NVIDIA nazywa go trzecią generacją małych modeli dla postaci ACE w grach) oraz agentów wbudowanych w roboty i urządzenia przemysłowe. Działa na GeForce RTX, Jetsonach oraz RTX Spark i DGX Spark.

Gemma 4 bez fine-tuningu nadzorowanego

Bolt to Gemma 4 E4B po post-treningu NVIDII: 8 mld parametrów łącznie, 4 mld efektywnych, kontekst 64K (Gemma ma 128K). Najciekawsza jest metoda. Zespół całkowicie pominął supervised fine-tuning. Według raportu badawczego SFT poprawiał wywoływanie narzędzi, ale pogarszał jakość rozmowy i zwiększał rozwlekłość odpowiedzi. Zamiast tego użyto RLVR i RLHF w NeMo-RL i NeMo-Gym. Każdy przykład trenowano w trybie z rozumowaniem i bez niego, w proporcji 2:1 na korzyść trybu bez rozumowania, a kary za długość miały powstrzymać puchnięcie odpowiedzi.

Model ma flagę conversational_mode dla krótkich odpowiedzi nadających się do syntezy mowy oraz konfigurowalny budżet myślenia, który ogranicza opóźnienia. Obsługuje wieloturowe użycie narzędzi, także asynchroniczne. Strona projektu mówi o 35 językach.

Wyniki: rekord w instrukcjach, słabość w Tau2-Bench

NVIDIA porównała Bolta z Gemma 4 E4B, Qwen3.5-4B i Nemotronem 3 Nano 4B w 21 testach i deklaruje pierwsze miejsce w 15. Wszystkie liczby pochodzą z własnego środowiska NVIDII (wagi BF16), więc trzeba je traktować ostrożnie. Najlepiej wypada IHEval: 84,8 pkt wobec 67,0 dla Gemmy i 60,6 dla Qwena. Firma podaje też średnio ok. 40% wyższy wynik niż u Nemotrona 3 Nano 4B oraz nawet o 80% mniej tokenów wyjściowych w porównaniach z włączonym rozumowaniem. Osobno Scale Labs umieściło Bolta na pierwszym miejscu wśród małych modeli w MultiChallenge (56,03%).

Nie wygrywa jednak wszędzie, a przegrane dotyczą akurat zadań agentowych i długiego kontekstu:

• Tau2-Bench: 55,1 wobec 75,1 u Qwen3.5-4B, czyli około 20 pkt straty;
• RULER 64K: 87,0 wobec 95,1;
• LongBench v2: 50,5 wobec 59,9;
• BFCL-v3: 68,5 wobec 70,9;
• EQ-Bench v3: minimalnie lepsza Gemma 4 E4B (41,1 wobec 39,4).

Dla modelu reklamowanego jako agentowy przewaga w wykonywaniu instrukcji przy wyraźnie słabszym Tau2-Bench to ważny niuans.

„4GB” to cel pamięciowy, nie rozmiar pliku

NVIDIA zmierzyła wariant Q4_K_M w llama.cpp (batch 1, 3 tys. tokenów wejścia, 50 wyjścia). Zużycie VRAM wyniosło od 3,1 do 4,2 GB:

• RTX 5070 (12 GB): 133,4 tokenu/s, pierwszy token po 548 ms;
• RTX Spark: 67,0 tokenu/s, 930 ms;
• Jetson AGX Orin: 24,0 tokenu/s, 3,7 s;
• Jetson Orin Nano 8 GB: 15,5 tokenu/s, 5,8 s.

Etykieta „4GB” opisuje docelowy budżet pamięci, a nie rozmiar pliku: GGUF Q4_K_M na Hugging Face waży 6,18 GB. Do kwantyzacji użyto kalibracji macierzą ważności na ok. 1 mln tokenów z rolloutów RL. W zestawie jest też drafter DFlash do dekodowania spekulatywnego. Na RTX 5070 Bolt z DFlash osiąga 272,6 tokenu/s, a Gemma 4 E4B z drafterem MTP 225,9, czyli różnica to 1,21x.

NVIDIA pokazała też demo robota Reachy Mini na Jetsonie Orin Nano 8GB: Cosmos 3 Edge odpowiada za obraz, a Bolt za odpowiedzi głosowe i wywołania narzędzi. Dzięki niewielkiemu zapotrzebowaniu na pamięć zostaje miejsce na modele mowy i wizji.

Dostępność i licencja

Model jest dostępny na Hugging Face, w Ollamie, LM Studio, Unsloth i Jetson AI Lab, jako NVIDIA NIM oraz przez In-Game Inferencing SDK. Jest też darmowe API na build.nvidia.com. Karta modelu opisuje wejście tekstowe, ale NIM przyjmuje także obraz i dźwięk. Licencja to OpenMDW-1.1, a nie Apache 2.0 jak w Gemmie 4. NVIDIA zapewnia, że model jest „open and customizable”, a w pakiecie są wagi, dane i receptury treningowe. Szczegóły techniczne opisano na stronie projektu.