Cloudflare stawia na AI, które nie pisze — tylko wyciąga dane

Nie każde zadanie związane z dokumentem wymaga generowania tekstu. Czasem aplikacja potrzebuje po prostu numeru faktury, kwoty do zapłaty albo daty wymagalności. Właśnie do takich zadań Cloudflare przygotował Clairic — model dostępny w wersji preview na platformie Workers AI. Firma zapowiada, że wkrótce udostępni także jego otwarte wagi.

Użytkownik wskazuje, jakich pól szuka, a Clairic zwraca dopasowane wartości w odpowiednim formacie i dołącza ocenę pewności wyniku. Jeśli potrzebnej informacji brakuje, zwraca „null”. W odróżnieniu od typowego modelu językowego nie generuje tekstu kolejno, token po tokenie: według dokumentacji Cloudflare odpowiada na wszystkie wskazane pola w jednym przebiegu. Firma określa tę kategorię jako modele ekstrakcyjne — mają zamieniać informacje z tekstu na konkretne wartości, które aplikacja może wykorzystać.

Clairic ma też wykonywać proste obliczenia, szacunki i prognozy. Nie jest jednak pomyślany jako zamiennik modeli generujących tekst. Cloudflare chce łączyć go z innymi komponentami: Clairic wyciąga dane, model decyzyjny stosuje reguły firmy, a LLM przygotowuje odpowiedź dla użytkownika. Firma opisuje taki układ jako łańcuch modeli „System One” i modeli generatywnych.

Przykład Cloudflare zaczyna się od wiadomości z reklamacją. Clairic odczytuje z niej numer zamówienia, kwotę i opis uszkodzenia, a następnie szacuje koszt naprawy. Model decyzyjny Clef wybiera między zwrotem pieniędzy a naprawą, po czym GLM-5.3 pisze odpowiedź do klienta.

Według pomiaru Cloudflare cały ten proces trwa 19,3 sekundy. Uruchomienie GLM-5.3 do wykonania wszystkich trzech zadań zajęło 61,7 sekundy i kosztowało prawie dwa razy więcej. To wynik przedstawiony przez samą firmę, a nie niezależny test porównawczy. Więcej o podejściu do modeli ekstrakcyjnych Cloudflare opisał w swoim wpisie na blogu.

Clairic ma jednak ograniczenia: Cloudflare przyznaje, że model nie radzi sobie jeszcze niezawodnie z dłuższymi łańcuchami obliczeń. Takie operacje deweloperzy powinni na razie realizować we własnym kodzie. Model najlepiej więc rozumieć nie jako kolejnego chatbota, lecz jako wyspecjalizowane narzędzie do wydobywania danych — jedno z ogniw większego procesu.

Informacje przedstawione w artykule pochodzą z materiału opublikowanego przez The Decoder.