Badacze z MIT opracowali innowacyjną metodę „treningu w czasie testu”, która znacznie poprawia zdolności rozumowania dużych modeli językowych (LLM) w obliczu złożonych i nieznanych zadań.
Read More
Naukowcy z prestiżowych instytucji wprowadzają benchmark OMEGA, aby precyzyjnie ocenić zdolności rozumowania matematycznego najnowszych modeli językowych. Odkrycia te rzucają nowe światło na ograniczenia obecnych technik uczenia maszynowego.
Read More
Zespół Hunyuan firmy Tencent zaprezentował otwarty model językowy Hunyuan-A13B, oparty na architekturze rzadkiej mieszaniny ekspertów (MoE). Model, choć zbudowany na 80 miliardach parametrów, aktywuje ich zaledwie 13 miliardów podczas wnioskowania, co zapewnia efektywną równowagę między wydajnością a kosztami obliczeniowymi. Model wyróżnia się obsługą uwagi grupowej (GQA), długim oknem kontekstowym 256 tys. tokenów oraz innowacyjnym systemem rozumowania dwumodowego, łączącym „myślenie” szybkie i powolne.
Read More
Najnowsze badania rzucają światło na niebezpieczeństwa związane z ujawnianiem danych poufnych poprzez tzw. ślady rozumowania (reasoning traces) w dużych modelach rozumowania (LRM). Okazuje się, że modele te, choć użyteczne, nie są bezpieczniejsze pod kątem prywatności niż ich poprzednicy, a wręcz tworzą nowe, ukryte powierzchnie ataku.
Read More
Dwie wpływowe publikacje, jedna autorstwa Apple, druga Anthropic, otwierają dyskusję na temat rzeczywistych zdolności rozumowania dużych modeli językowych (LRM). Apple wskazuje na fundamentalne ograniczenia, podczas gdy Anthropic zarzuca błędy w metodologii oceny, sugerując, że modele są znacznie bardziej kompetentne, niż się wydaje.
Read More
Naukowcy z MIT i NUS przedstawiają MEM1 – innowacyjny framework, który pozwala agentom językowym na efektywne zarządzanie pamięcią w długich interakcjach, redukując zużycie zasobów i poprawiając zdolności rozumowania, nawet w złożonych, wieloetapowych zadaniach.
Read More
W dążeniu do bardziej zaawansowanej sztucznej inteligencji, modele zdolne do złożonego rozumowania matematycznego i logicznego stanowią kluczowy obszar badań. Naukowcy z Hongkongu, Bytedance Seed i Fudan University przedstawili Polaris, nową recepturę post-treningową, która umożliwia skalowanie uczenia wzmacnianego dla zaawansowanych zadań rozumowania, jednocześnie zwiększając efektywność mniejszych modeli.
Read More
Tradycyjne podejścia do uczenia się przez wzmacnianie (RL) w sztucznej inteligencji koncentrowały się na wąskich domenach, takich jak matematyka czy kodowanie, ograniczając zdolność modeli językowych do generalizacji. Nowe badania wprowadzają GURU, przełomowy zbiór danych, który ma zmienić ten paradygmat, umożliwiając LLM-om kompleksowe rozumowanie w sześciu różnorodnych dziedzinach.
Read More
Nowatorskie podejście badaczy z Rice University, Johns Hopkins University i Nvidii pokazuje, że proste gry takie jak Snake i Tetris mogą być zaskakująco skuteczne w rozwijaniu umiejętności matematycznych w modelach AI, wyprzedzając tradycyjne zestawy danych.
Read More
Najnowsze badania z Uniwersytetu Kopenhaskiego wnoszą świeże spojrzenie na zdolności dużych modeli językowych do tworzenia wewnętrznych reprezentacji środowisk, opierając się na hipotezie modelu świata w grze Othello. Wyniki te redefiniują rozumienie tego, jak LLM-y postrzegają i przetwarzają informacje przestrzenne, nawet bez bezpośredniego dostępu do danych wizualnych.
Read More