Nemotron 3.5 Super VL. Nvidia wypuszcza model dla agentów, ale stawia wysokie wymagania sprzętowe

Nvidia udostępniła Nemotron 3.5 Super VL — multimodalny model o 120 mld parametrów, przeznaczony do długotrwałych zadań agentowych i zaawansowanej analizy dokumentów. W każdym kroku obliczeń aktywnych jest 12 mld parametrów, co pozwala na jednoczesne przetwarzanie tekstu, obrazów, wielostronicowych plików oraz wideo.

Model powstał w procesie destylacji ze znacznie większego Nemotron 3 Ultra. Według deklaracji producenta Super VL zachowuje zbliżoną dokładność w zadaniach związanych z wykonywaniem poleceń i korzystaniem z narzędzi, dysponując przy tym około jedną piątą liczby parametrów pierwowzoru. W testach multimodalnych, takich jak analiza wykresów i tabel w benchmarku CharXiv czy odczyt tekstu w OCRBench v2, system radzi sobie bez konieczności podłączania osobnego modelu wizyjnego. Nvidia podaje także, że w zadaniach agentowych model osiąga do pięciu razy większą przepustowość niż otwarte rozwiązania o podobnej skali — są to jednak wyniki producenta uzyskane w konkretnych konfiguracjach testowych, a nie uniwersalna reguła.

Lokalny agent nie na każdy komputer

Równolegle z wersją serwerową Nvidia zaprezentowała warianty z rodziny Bolt, przeznaczone do pracy lokalnej. Dostępny już Nemotron 3.5 Bolt 74B-A9B liczy 74 mld parametrów (9 mld aktywnych w kroku). Choć wagi modelu poddano agresywnej kompresji do 2 bitów, uruchomienie go wciąż wymaga 24 GB pamięci.

Taki próg sprawia, że lokalny agent nie trafi na przeciętny komputer osobisty — wymaga wydajnej stacji roboczej lub karty graficznej z najwyższej półki cenowej. Bardziej dostępny wariant Bolt E4B, zaprojektowany z myślą o urządzeniach dysponujących 4 GB pamięci, ma zostać udostępniony 23 października.

Otwartość powiązana z ekosystemem

Pakiet udostępniony przez Nvidię wykracza poza same wagi bazowe i dostrojone — wśród nich znalazła się również wersja skwantyzowana w formacie NVFP4. Firma opublikowała ponadto zbiory danych, przepisy treningowe oraz środowiska do uczenia przez wzmacnianie. Chociaż modele można uruchamiać za pomocą uniwersalnych narzędzi open source, takich jak vLLM czy llama.cpp, ich architektura została zoptymalizowana przede wszystkim pod kątem własnego ekosystemu sprzętowego Nvidii.

Dla przedsiębiorstw publikacja oznacza możliwość budowy wewnętrznych agentów na własnej infrastrukturze, z dala od zamkniętych usług chmurowych. Równocześnie pełne wykorzystanie deklarowanej przez producenta wydajności pozostaje ściśle powiązane z zapleczem sprzętowym oferowanym przez Nvidię.