Mercury 3 od Inception: model dyfuzyjny, który ma być kilka razy szybszy od GPT-6 Luna i Claude Haiku 5.5

Startup Inception udostępnił Mercury 3, model językowy oparty na dyfuzji. Firma nazywa go najbardziej zaawansowanym dotąd wydanym dyfuzyjnym modelem językowym. Twierdzi też, że w benchmarkach pokonuje GPT-6 Luna i Claude Haiku 5.5, a działa od czterech do ośmiu razy szybciej. Informacje przedstawił The Decoder, opierając się na zapowiedzi Inception.

Szkic całej odpowiedzi zamiast słowa po słowie

Modele takie jak GPT czy Claude piszą tekst token po tokenie, więc każdy kolejny musi poczekać na poprzedni. Mercury działa inaczej. Podobnie jak znane z generowania obrazów modele dyfuzyjne, najpierw tworzy zgrubną wersję całej odpowiedzi, a potem poprawia ją w kilku przebiegach. Dzięki temu w jednym kroku powstaje wiele słów naraz, i stąd bierze się przewaga w szybkości.

Według Inception Mercury 3 generuje 1068 tokenów na sekundę na GPU Nvidii. W zestawieniu firmy Claude Haiku 5.5 osiąga około 240, a GPT-6 Luna około 130. Model obsługuje kontekst do miliona tokenów. Inception podkreśla też, że ma ponad 40 razy więcej parametrów niż Mercury 1, a działa równie szybko, i że wydajność wzrosła trzykrotnie względem małego Mercury 1 mini.

Wyniki: wyraźna przewaga, ale nie wszędzie

Mercury 3 prowadzi w 8 z 12 testów. Największe różnice widać tu:

• IFBench: 76,84 pkt, czyli o 15 więcej niż GPT-6 Luna.
• SWE-Bench Atlas (autonomiczne programowanie): 51,08 pkt wobec 33,33 i 32,26 u konkurentów.

Są też testy, w których Mercury 3 przegrywa. Claude Haiku 5.5 wygrywa w dłuższym teście programistycznym DeepSWE i lepiej wyszukuje informacje w długich tekstach. GPT-6 Luna wyprzedza go w dwóch testach Artificial Analysis. Sama tabela Inception jest zresztą ostrożniejsza niż nagłówki: jakość Mercury 3 opisuje jako „na poziomie lub lepszą”.

Wszystkie te liczby pochodzą z wewnętrznych pomiarów firmy, niezależnych testów jeszcze nie ma. Warto o tym pamiętać przy prędkościach. W katalogu OpenRouter przy Mercury 3 widnieje przepustowość 271 tokenów na sekundę i uptime 99,96%. To wciąż sporo, ale wyraźnie mniej niż 1068. Nie wiadomo, w jakich warunkach mierzono obie wartości, więc nie przesądzałbym, która lepiej odzwierciedla codzienne użycie.

Dla kogo i za ile

Mercury 3 jest przeznaczony do zastosowań, w których drobne opóźnienia się kumulują: autonomicznych agentów, inteligentnych okularów i obsługi klienta. Partnerzy z wczesnego dostępu, którzy wypowiadają się w zapowiedzi, też głównie mówią o szybkości. Octen AI buduje funkcje wyszukiwania dla smart glasses. General Learning dostarcza uczniom podpowiedzi i korekty w około sekundę. Lorikeet, dostawca obsługi klienta, raportuje krótsze czasy odpowiedzi i lepsze wyniki.

Standardowy cennik to 0,20 USD za milion tokenów wejściowych i 0,70 USD za milion wyjściowych. Na starcie Inception obniża go o połowę, do 0,10 i 0,35 USD. Promocja nie potrwa jednak wiecznie. Po jej zakończeniu Mercury 3 będzie droższy w tokenach wyjściowych niż GPT-6 Luna i Claude Haiku 5.5. Model jest dostępny na platformie Inception oraz w OpenRouter, Baseten i Vercel. API jest zgodne z OpenAI, więc przesiadka nie powinna wymagać wiele pracy.

Wyścig o dyfuzję w tekście

Mercury 3 to kolejny krok w serii. W lutym Inception wydało Mercury 2, określane jako pierwszy model dyfuzyjny rozumujący w krokach pośrednich przed udzieleniem odpowiedzi. Wcześniej startup zebrał 50 mln dolarów. Poprzednią wersję opisywał Implicator, wskazując już wtedy około 1000 tokenów na sekundę.

Podobną ścieżką idzie Google. Po demie Gemini Diffusion w czerwcu pojawił się otwarty model DiffusionGemma, który firma opisuje jako eksperymentalny i „wyjątkowo szybki” sposób generowania tekstu. Simon Willison pisał o Gemini Diffusion na swoim blogu, że był to ekscytujący model, ale Google nie ogłosiło potem nic więcej. Mercury 3 jest dotychczas najpoważniejszym argumentem Inception za dyfuzją w generowaniu tekstu. Czy wytrzyma niezależne testy, pokażą dopiero niezależne pomiary.