Nvidia porzuca pisanie słowo po słowie. Dyfuzyjne modele Nemotron to nowa prędkość w AI

Generatywna AI ma od lat ten sam problem: jest boleśnie powolna. Tradycyjne modele językowe działają jak skryba, który każde kolejne słowo mozolnie dopisuje na podstawie poprzedniego. Nvidia właśnie postanowiła wyrzucić to podejście do kosza, prezentując rodzinę Nemotron-Labs Diffusion. Zamiast sekwencyjnej udręki, nowe modele generują całe bloki tekstu naraz, wykorzystując architekturę, która dotąd kojarzyła się głównie z generowaniem obrazów w Midjourney czy Stable Diffusion.

Dlaczego to ważne teraz?

Wyścig o wydajność przenosi się z etapu trenowania modeli na etap ich masowego użytkowania (inference). W obliczu rosnącego obciążenia infrastruktury, zwłaszcza układów H200 i B200, branża gorączkowo szuka sposobów na obsłużenie większego ruchu bez budowania kolejnych serwerowni. Modele dyfuzyjne (dLLM) stają się realną alternatywą, czego dowodzą projekty takie jak Mercury, osiągający zawrotne prędkości na standardowym sprzęcie. Jak zauważa Horyzont AI: „Dyfuzyjne duże modele językowe stanowią alternatywę dla dominującego podejścia autoregresywnego. Zamiast generować tekst słowo po słowie, działają poprzez iteracyjne udoskonalanie, zaczynając od zaszumionej reprezentacji całej sekwencji”.

Koniec z generowaniem token po tokenie

Autoregresja to wąskie gardło. Każdy nowy znak wymaga, by procesor graficzny ponownie odczytał wagi z pamięci, co sprawia, że potężne układy GPU nudzą się, czekając na dane. Nvidia Nemotron-Labs Diffusion rozwiązuje to przez równoległe przetwarzanie. Nowa rodzina modeli o rozmiarach 3B, 8B oraz 14B wprowadza trzy tryby pracy, które można dobierać zależnie od potrzeb. Od klasycznej autoregresji, po radykalnie szybszą dyfuzję.

Prędkość, która zmienia zasady gry

Liczby robią wrażenie. W trybie dyfuzyjnym model generuje średnio 2,6 raza więcej tokenów na jeden przebieg sieci niż klasyczne LLM. Jeszcze lepiej wygląda to w trybie autopekulacyjnym (self-speculation), gdzie model szkicuje tekst dyfuzyjnie, a potem błyskawicznie go weryfikuje. Efekt? Nawet sześciokrotne przyspieszenie. Na architekturze Blackwell B200 system wykręca przepustowość rzędu 865 tokenów na sekundę. Dla porównania, konkurencyjne rozwiązania dyfuzyjne jak wspomniany Mercury potrafią przebić barierę 1000 tokenów na sekundę na kartach klasy H100.

Hybrydowa przyszłość i otwartość

Nvidia nie zmusza deweloperów do pisania aplikacji od nowa. Wybór trybu pracy dzieje się na etapie wdrożenia, a modele trafiają na komercyjne licencje. To spójna strategia firmy, która podczas ostatnich targów CES 2025 pokazała system Cosmos. Tam również postawiono na hybrydę: dyfuzja generuje dane wideo i tekstowe, które symulują kolejne etapy procesów dla robotyki. Branża przestaje pytać, czy dyfuzja w tekście ma sens – teraz pyta, jak szybko uda się ją wdrożyć w produkcyjnych systemach, skoro wariant 8B potrafi być o 1,2% celniejszy od popularnego Qwen3.