Bez kategorii

Anthropic prezentuje Claude Sonnet 5.5. Oszczędności mają wynikać z mniejszego zużycia tokenów

Anthropic udostępnił model Claude Sonnet 5.5. Cennik API nie uległ zmianie w stosunku do Sonnet 5 – stawki nadal wynoszą 2 dolary za milion tokenów wejściowych, 10 dolarów za milion tokenów wyjściowych oraz 0,20 dolara za odczyt z pamięci podręcznej (cache). Mimo to twórcy deklarują, że koszt realizacji pojedynczego zadania może spaść nawet o 30 proc., a sam proces generowania odpowiedzi ma być o ponad 30 proc. szybszy. Obie deklaracje opierają się na założeniu, że nowy model potrzebuje mniejszej liczby kroków i tokenów do wykonania tej samej pracy, choć twierdzenia te nie doczekały się jeszcze niezależnej weryfikacji.

Zmniejszenie zużycia tokenów wynika między innymi z częstszego grupowania wywołań narzędzi zewnętrznych. Użytkownicy zyskali też możliwość regulowania poziomu wysiłku obliczeniowego modelu, co pozwala znaleźć równowagę między czasem i kosztem generowania odpowiedzi a jej precyzją. Co ciekawe, w teście FrontierCode v1.1 ustawienie najwyższego poziomu wysiłku („Max”) dało gorszy rezultat niż tryb „Xhigh”, co pokazuje, że maksymalna liczba operacji nie w każdym przypadku przekłada się na lepszy kod.

W wybranych zastosowaniach Sonnet 5.5 zbliża się wynikami do plasującego się wyżej modelu Opus 5.5. W teście GDPval-AA Sonnet 5.5 uzyskał 1844 punkty, podczas gdy Opus 5.5 osiągnął 1846 punktów. Anthropic zaznacza jednak, że wynik Sonneta zarejestrowano na wersji przedpremierowej, w której błąd mógł wpływać na ewaluację ustrukturyzowanych odpowiedzi.

Sonnet 5.5 został udostępniony na platformach Amazon Web Services, Google Cloud oraz Microsoft Azure. W ofercie znalazł się także wariant, w którym zagwarantowano, że dane użytkowników nie będą przechowywane.