LLM

LLMR & D

Przełom w modelowaniu języka: Meta wprowadza AU-Net, model omijający ograniczenia tokenizacji

Badacze z Meta AI, we współpracy z europejskimi instytutami, zaprezentowali Autoregresyjny U-Net (AU-Net) – innowacyjny model przetwarzający język bezpośrednio na poziomie bajtów. Rozwiązanie to stanowi potencjalną alternatywę dla kosztownych i skomplikowanych modeli transformerowych, oferując liniową złożoność i lepszą skalowalność, szczególnie w kontekście zadań wielojęzycznych.

Read More
Data ScienceLLMR & D

HtFLlib: Nowe narzędzie do oceny rozproszonego uczenia heterogenicznego

Instytucje zajmujące się sztuczną inteligencją często rozwijają wyspecjalizowane, heterogeniczne modele AI, by sprostać konkretnym zadaniom. Niestety, proces ten nierzadko napotyka na problem niedoboru danych treningowych. Tradycyjne podejścia do uczenia rozproszonego (Federated Learning – FL) pozwalają wyłącznie na współpracę modeli o identycznych architekturach, co w praktyce ogranicza ich zastosowanie. Problem ten częściowo rozwiązuje heterogeniczne uczenie rozproszone (Heterogeneous Federated Learning – HtFL), jednak dotychczas brakowało ujednoliconych narzędzi do jego kompleksowej oceny w różnorodnych zastosowaniach. Nowa biblioteka HtFLlib ma ambicję to zmienić.

Read More
LLMR & D

WINGS: Nowe podejście do walki z „zapominaniem tekstowym” w multimodalnych modelach językowych

Modele językowe obsługujące wiele modalności, takie jak tekst i obraz, otwierają nowe możliwości dla sztucznej inteligencji. Niestety, ich zdolność do przetwarzania samego tekstu często cierpi, gdy zaczynają „widzieć”. Naukowcy z Alibaba Group i Nanjing University przedstawili WINGS – architekturę, która ma temu zapobiec, zapewniając bardziej zrównoważoną i wszechstronną AI.

Read More
BezpieczeństwoEtyka AILLMRozumowanie

Śledzenie myśli sztucznej inteligencji ujawnia nowe zagrożenia prywatności

Najnowsze badania rzucają światło na niebezpieczeństwa związane z ujawnianiem danych poufnych poprzez tzw. ślady rozumowania (reasoning traces) w dużych modelach rozumowania (LRM). Okazuje się, że modele te, choć użyteczne, nie są bezpieczniejsze pod kątem prywatności niż ich poprzednicy, a wręcz tworzą nowe, ukryte powierzchnie ataku.

Read More
LLM

ProtoReasoning: Nowe spojrzenie ByteDance na generalizację modeli językowych

Badacze z ByteDance i Shanghai Jiao Tong University przedstawili ProtoReasoning, nowe podejście do zwiększania zdolności uogólniania dużych modeli językowych. Wykorzystując prototypy rozumowania oparte na logice, takie jak Prolog i PDDL, framework ten ma na celu poprawę zdolności modeli do przenoszenia wiedzy między różnymi domenami. To innowacyjne rozwiązanie koncentruje się na abstrakcyjnych strukturach myślowych, a nie na powierzchniowych cechach zadań, co może zwiastować nową erę w rozwoju AI.

Read More
LLMR & DRozumowanie

Debata o zdolnościach rozumowania sztucznej inteligencji: Czy Apple przedwcześnie skazało modele LRM?

Dwie wpływowe publikacje, jedna autorstwa Apple, druga Anthropic, otwierają dyskusję na temat rzeczywistych zdolności rozumowania dużych modeli językowych (LRM). Apple wskazuje na fundamentalne ograniczenia, podczas gdy Anthropic zarzuca błędy w metodologii oceny, sugerując, że modele są znacznie bardziej kompetentne, niż się wydaje.

Read More