Międzymodelowa telepatia. Chińscy naukowcy stworzyli nową metodę komunikacji między modelami AI

Słowa to za mało: problem z obecną komunikacją AI

Współpraca między różnymi modelami sztucznej inteligencji opiera się dziś na niedoskonałym fundamencie: tekście. Gdy kilka wyspecjalizowanych modeli LLM pracuje nad jednym zadaniem, muszą wymieniać się informacjami w formie poleceń pisanych językiem naturalnym. Zespół naukowców z kilku chińskich uniwersytetów wskazuje, że takie podejście generuje trzy fundamentalne problemy: stanowi wąskie gardło dla przepływu danych, jest podatne na niejednoznaczność i znacznie spowalnia cały proces z powodu konieczności generowania każdego tokenu.

Problem ten dobrze ilustruje przykład współpracy modelu-programisty z modelem-copywriterem. Polecenie „umieść treść w sekcji wrapper” dla maszyny może być pułapką. Model piszący tekst, nie rozumiejąc kontekstu strukturalnego kodu HTML i znaczenia tagu „”, może umieścić zawartość w zupełnie innym miejscu, niż zakładał programista. To właśnie nieprecyzyjność języka naturalnego jest jedną z głównych barier w budowie złożonych, wieloagentowych systemów AI.

Bezpośredni transfer myśli, czyli jak działa C2C

Rozwiązaniem zaproponowanym przez badaczy jest metoda Cache-to-Cache (C2C). Zamiast generować tekst, który następnie jest interpretowany przez inny model, system pozwala na bezpośrednią wymianę „myśli” – czyli wewnętrznej pamięci modeli, znanej jako pamięć podręczna klucz-wartość (KV cache).

Tę pamięć można porównać do wewnętrznego notatnika modelu. W trakcie przetwarzania danych wejściowych, LLM tworzy w niej matematyczne reprezentacje poszczególnych słów i fraz w ich kontekście. Te „migawki” zawierają znacznie bogatszy i bardziej szczegółowy ładunek informacyjny niż finalny tekst. Podczas gdy wygenerowane zdanie jest tylko produktem końcowym, KV cache przechowuje cały proces rozumowania i zależności, które do niego doprowadziły. Dzięki C2C model-programista może przekazać swoje wewnętrzne, matematyczne rozumienie struktury HTML bezpośrednio do modelu piszącego, eliminując ryzyko błędnej interpretacji.

Cache Fuser: technologiczny tłumacz między mózgami AI

Sercem nowego rozwiązania jest sieć neuronowa o nazwie Cache Fuser. Jej zadaniem jest fuzja pamięci podręcznych dwóch różnych modeli. Proces ten składa się z trzech etapów. Najpierw moduł projekcji ujednolica formaty danych z obu modeli, ponieważ każdy z nich może mieć inną architekturę. Następnie system dynamicznego ważenia ocenia, które fragmenty informacji z modelu źródłowego są najważniejsze dla zadania realizowanego przez model docelowy. Na końcu adaptacyjna bramka decyduje, do których warstw modelu docelowego trafią nowe dane, aby optymalnie wzbogacić jego „wiedzę”.

Dzięki temu złożonemu mechanizmowi filtrowania i adaptacji, transferowane są tylko użyteczne informacje, bez zbędnego obciążania pamięci modelu docelowego.

Liczby mówią same za siebie: wydajność i oszczędność

Testy porównawcze wykazały znaczącą przewagę C2C nad tradycyjną komunikacją tekstową. Nowa metoda okazała się o 3-5% lepsza w testach porównawczych, zwiększyła dokładność odpowiedzi o 8,5-10,5% w stosunku do pojedynczych modeli i niemal dwukrotnie przyspieszyła cały proces. Co istotne, im większy i bardziej „doświadczony” był model źródłowy, tym lepsze wyniki osiągał system.

Badania przeprowadzono na różnych kombinacjach modeli (m.in. Qwen, Llama 3, Gemma) o rozmiarach od 0,6 do 14 miliardów parametrów. Analizy techniczne potwierdziły, że po fuzji pamięci gęstość i bogactwo semantyczne informacji w modelu docelowym wyraźnie wzrastały.

Kluczową zaletą C2C jest wydajność. Treningu wymaga jedynie moduł Cache Fuser, a nie całe, wielomiliardowe modele językowe. To pozwala uniknąć gigantycznych kosztów obliczeniowych związanych z ponownym szkoleniem LLM, czyniąc to rozwiązanie praktycznym i skalowalnym.

Nowe horyzonty dla systemów AI

Twórcy widzą szerokie zastosowanie dla swojej metody. Może ona posłużyć do tworzenia systemów, w których model na urządzeniu końcowym (np. smartfonie) współpracuje z potężnym modelem w chmurze, zachowując przy tym prywatność danych. C2C może być również integrowane z istniejącymi technikami akceleracji AI oraz stanowić fundament dla systemów multimodalnych, łączących język, obraz i dźwięk.

Udostępniając kod swojego projektu na zasadach open-source, chińscy naukowcy dają społeczności narzędzie do budowy nowej generacji systemów AI – szybszych, dokładniejszych i zdolnych do znacznie głębszej współpracy.