LFM2-2.6B-Exp: mały, ale potężny – Liquid AI przesuwa granice uczenia ze wzmocnieniem w modelach brzegowych

Tak, gdzie dominują gigantyczne modele z miliardami parametrów, Liquid AI obrało inną strategię. Przedstawiając LFM2-2.6B-Exp, firma koncentruje się na optymalizacji mniejszych modeli, które mogą działać efektywnie na urządzeniach brzegowych, takich jak smartfony czy laptopy. To innowacyjne podejście ma na celu dostarczenie zaawansowanych zdolności AI bez konieczności polegania na rozbudowanej infrastrukturze chmurowej.

Rewolucja w małych modelach: czyste uczenie ze wzmocnieniem

LFM2-2.6B-Exp to eksperymentalna wersja już istniejącego modelu LFM2-2.6B, która wyróżnia się zastosowaniem czystego uczenia ze wzmocnieniem (RL – Reinforcement Learning). Kluczową innowacją jest skupienie się na poprawie trzech kluczowych obszarów: precyzyjnego wykonywania instrukcji, rozszerzania bazy wiedzy oraz usprawniania zdolności matematycznych. Co istotne, model utrzymuje swoją klasę 3 miliardów parametrów, co pozwala na jego efektywne wdrażanie na urządzeniach końcowych.

Rodzina LFM2: architektura hybrydowa na straży wydajności

LFM2 to druga generacja modeli językowych od Liquid AI, stworzona z myślą o efektywnym działaniu na urządzeniach mobilnych i innych platformach brzegowych. Architektura LFM2 jest hybrydowa, łącząca bloki konwolucyjne LIV krótkiego zasięgu z blokami uwagi grupowej, sterowanymi przez bramki multiplikatywne. Rodzina LFM2 obejmuje cztery rozmiary modeli: 350M, 700M, 1.2B i 2.6B, z czego LFM2-2.6B jest najbardziej rozbudowany, posiadający 30 warstw (22 konwolucyjne i 8 uwagowych).

Wszystkie modele LFM2 charakteryzują się długością kontekstu wynoszącą 32 768 tokenów oraz słownikiem o rozmiarze 65 536 tokenów, operując w precyzji bfloat16. Trenowane były na ogromnym korpusie danych, liczącym 10 bilionów tokenów, co zapewnia im solidne podstawy wiedzy.

LFM2-2.6B-Exp: ulepszenia bez zmiany fundamentów

LFM2-2.6B już wcześniej demonstrował swoją konkurencyjność, osiągając wyniki 82,41% w teście GSM8K i 79,56% w IFEval, wyprzedzając tym samym modele takie jak Llama 3.2 3B Instruct czy Gemma 3 4B it. Wersja eksperymentalna, LFM2-2.6B-Exp, zachowuje tę samą architekturę, tokenizację i profil sprzętowy. Główne zmiany dotyczą wyłącznie udoskonalenia zachowań modelu poprzez fazę uczenia ze wzmocnieniem.

Proces ten obejmuje sekwencyjne szkolenie RL, począwszy od wykonywania instrukcji, poprzez prompty zorientowane na wiedzę, zadania matematyczne, aż po ograniczoną obsługę narzędzi. Istotne jest, że odbywa się to bez dodatkowego etapu dostrajania nadzorowanego (SFT) czy destylacji, co podkreśla czystość podejścia RL.

Wyniki benchmarkowe: LFM2-2.6B-Exp liderem w instrukcjach

Zespół Liquid AI zwraca szczególną uwagę na benchmark IFBench, który mierzy zdolność modelu do niezawodnego wykonywania złożonych instrukcji. LFM2-2.6B-Exp wykazuje tu imponującą przewagę nad DeepSeek R1-0528, modelem aż 263 razy większym pod względem liczby parametrów. To świadectwo wyjątkowej efektywności modelu Liquid AI w kontekście instrukcji.

Modele LFM2 osiągają również wysokie wyniki w standardowych benchmarkach, takich jak MMLU, GPQA, IFEval czy GSM8K. Wersja RL LFM2-2.6B-Exp jeszcze bardziej podnosi poprzeczkę w zakresie rozumienia instrukcji i zdolności matematycznych, zachowując jednocześnie swój budżet parametrów na poziomie 3 miliardów.

Zdolności kluczowe: dynamiczne wnioskowanie hybrydowe i obsługa narzędzi

Architektura LFM2, z jej hybrydową konstrukcją, w której 10 bloków konwolucyjnych LIV z podwójną bramką i 6 bloków uwagi grupowej współdziałają, przyczynia się do redukcji kosztów pamięci KV cache i zapewnia szybką inferencję na konsumenckich kartach graficznych (GPU) oraz jednostkach NPU.

Modele LFM2 zostały przeszkolone na zróżnicowanym zestawie danych, składającym się w około 75% z języka angielskiego, 20% z danych wielojęzycznych (w tym arabskiego, chińskiego, francuskiego, niemieckiego, japońskiego, koreańskiego i hiszpańskiego) oraz 5% kodu. Dzięki temu są zdolne do obsługi szerokiego zakresu zastosowań.

Kluczową funkcjonalnością jest również wsparcie dla natywnego użycia narzędzi poprzez szablony ChatML oraz specjalne tokeny. Model potrafi interpretować narzędzia opisane w formacie JSON i generować wywołania funkcji w stylu Pythona, co czyni go idealnym rozwiązaniem dla systemów agentowych AI bez potrzeby skomplikowanej inżynierii promptów. Co więcej, LFM2-2.6B, a co za tym idzie LFM2-2.6B-Exp, oferuje funkcję dynamicznego wnioskowania hybrydowego, wykorzystując „tokeny myśli” do przetwarzania złożonych lub wielojęzycznych danych wejściowych, co jest unikalną cechą w tej rodzinie modeli.

Liquid AI udostępniło LFM2-2.6B-Exp na platformie Hugging Face z otwartymi wagami w ramach licencji LFM Open License v1.0, zapewniając wsparcie dla popularnych środowisk, takich jak Transformers, vLLM, kwantyzacje GGUF llama.cpp oraz ONNXRuntime. To otwiera drogę do szerokiego zastosowania modelu w asystentach na urządzeniach, ekstrakcji danych strukturalnych oraz generowaniu wspomaganym wyszukiwaniem (RAG), gdzie kompaktowy model 3 miliardów parametrów jest niezbędny.