TokenAI udostępnia Neo: 41-milionowy model do prostych decyzji w potoku agenta

Startup TokenAI z Aleksandrii udostępnił Neo — niewielki, wyszkolony od podstaw model o 41 mln parametrów, przeznaczony do podejmowania wąskich wyborów w potokach agentów sztucznej inteligencji. Zamiast generować swobodny tekst czy prowadzić konwersację, system ma w jednym przebiegu wskazywać właściwe działanie z ograniczonego zestawu opcji.

Model został wytrenowany na 400 tys. syntetycznych rekordów obejmujących około miliona decyzji. Konstrukcja pozwala mu obsłużyć trzy typy zadań: wybór jednej z maksymalnie 32 zdefiniowanych możliwości, ocenę na skali do pięciu poziomów albo prostą decyzję binarną („tak” lub „nie”). W architekturze agentowej ten ostatni wariant może decydować o przekazaniu zapytania do zewnętrznego narzędzia lub wstrzymaniu operacji i skierowaniu sprawy do weryfikacji przez człowieka, gdy poziom pewności modelu jest zbyt niski.

Z danych przedstawionych przez producenta wynika, że skuteczność Neo różni się w zależności od złożoności zadania. W wewnętrznym teście firma odnotowała 82,38 proc. trafności przy decyzjach binarnych oraz 73,99 proc. przy ocenach pięciostopniowych. W przypadku wyboru jednej z 32 opcji trafność wyniosła 36 proc. TokenAI nie opublikowało szczegółowej metodologii ani składu zbioru testowego, dlatego podane wartości stanowią deklarację twórców, a nie niezależną ewaluację w warunkach produkcyjnych.

Kod treningowy, zbiory danych i wagi modelu udostępniono w serwisach GitHub oraz Hugging Face. Zastosowana licencja zabrania jednak wykorzystania Neo w środowiskach produkcyjnych, komercyjnych oraz w usługach dla klientów bez wcześniejszej pisemnej zgody firmy. W praktyce oznacza to, że publiczne udostępnienie zasobów służy obecnie głównie celom badawczym i eksperymentalnym.