Meta prezentuje REFRAG: przełom w skalowaniu RAG z 16-krotnie dłuższym kontekstem i 31-krotnie szybszym dekodowaniem
Meta Superintelligence Labs przedstawia REFRAG, rewolucyjną metodę, która znacząco przyspiesza i rozszerza możliwości modeli językowych (LLM) w zadaniach Retrieval-Augmented Generation (RAG). REFRAG oferuje 16-krotne wydłużenie okna kontekstowego i 31-krotne przyspieszenie dekodowania, otwierając nowe możliwości dla AI.
Read More