W dążeniu do stworzenia bardziej niezawodnych i bezpiecznych modeli językowych (LLM), Google DeepMind, wspólnie z badaczami z McGill University i MILA, przedstawiło Crome – nowatorski framework oparty na przyczynowym rozumieniu generowania odpowiedzi. Crome ma za zadanie raz na zawsze rozwiązać problem tzw. hakowania nagród, który trawi obecne systemy sztucznej inteligencji.
Read More
Przedsiębiorstwa, które początkowo entuzjastycznie wdrażały duże modele językowe, odkrywają, że ich utrzymanie jest kosztowne i nieefektywne. Rosnącą popularność zdobywa nowa strategia – minimalizm modelowy, opierająca się na małych, specjalizowanych jednostkach AI, które znacząco redukują wydatki i zwiększają ROI.
Read More
Naukowcy z Uniwersytetu Jiao Tong w Szanghaju zaprezentowali OctoThinker, dwuetapową strategię mid-treningu, która radykalnie poprawia kompatybilność modeli Llama z uczeniem wzmacniającym. To rozwiązanie może otworzyć drogę do nowych zastosowań AI, gdzie efektywne skalowanie CoT jest kluczowe.
Read More
Rosnąca złożoność modeli językowych LLM i wydłużające się okna kontekstowe, choć zwiększają ich możliwości, prowadzą do niekontrolowanego wzrostu kosztów obliczeniowych. Nowa dyscyplina, Prompt Ops, ma pomóc firmom w zarządzaniu tym wyzwaniem i optymalizacji interakcji z AI, by zminimalizować zbędne wydatki i zwiększyć \”wykorzystanie systemu\”.
Read More
Japońskie laboratorium Sakana AI zaprezentowało innowacyjną technikę Multi-LLM AB-MCTS, umożliwiającą dużym modelom językowym wspólną pracę nad złożonymi problemami, znacząco przewyższając możliwości pojedynczych jednostek. To krok ku bardziej dynamicznym i wydajnym systemom AI.
Read More
Badacze z Uniwersytetu Jiao Tong w Szanghaju opracowali OctoThinker – innowacyjną strategię mid-treningu dla dużych modeli językowych, która znacząco poprawia ich kompatybilność z uczeniem ze wzmocnieniem. Rozwiązuje to problem nierównomiernego zachowania różnych rodzin modeli, zwłaszcza w odniesieniu do serii Llama, torując drogę dla solidniejszych i wydajniejszych systemów SI.
Read More
Naukowcy z prestiżowych instytucji wprowadzają benchmark OMEGA, aby precyzyjnie ocenić zdolności rozumowania matematycznego najnowszych modeli językowych. Odkrycia te rzucają nowe światło na ograniczenia obecnych technik uczenia maszynowego.
Read More
Zespół Hunyuan firmy Tencent zaprezentował otwarty model językowy Hunyuan-A13B, oparty na architekturze rzadkiej mieszaniny ekspertów (MoE). Model, choć zbudowany na 80 miliardach parametrów, aktywuje ich zaledwie 13 miliardów podczas wnioskowania, co zapewnia efektywną równowagę między wydajnością a kosztami obliczeniowymi. Model wyróżnia się obsługą uwagi grupowej (GQA), długim oknem kontekstowym 256 tys. tokenów oraz innowacyjnym systemem rozumowania dwumodowego, łączącym „myślenie” szybkie i powolne.
Read More
Badacze DeepSeek opublikowali lekką, zbudowaną od podstaw implementację silnika vLLM, nazwaną nano-vLLM. To minimalistyczne narzędzie, stworzone w Pythonie, oferuje szybkość wnioskowania porównywalną z oryginalnym vLLM, jednocześnie stawiając na przejrzystość kodu i prostotę. Stanowi odpowiedź na rosnące zapotrzebowanie na zrozumiałe i modyfikowalne rozwiązania w obszarze wnioskowania dużych modeli językowych.
Read More
Tradycyjne podejście do agentowej sztucznej inteligencji, bazujące na dużych modelach językowych (LLM), staje w obliczu wyzwania. Nowe badania sugerują, że małe modele językowe (SLM) mogą oferować znacznie większą efektywność i opłacalność, redefiniując tym samym sposób budowania inteligentnych systemów.
Read More