Sztuczna inteligencja idzie spać. Google Research proponuje cykle snu przeciw zapominaniu wiedzy

Współczesne modele językowe cierpią na fundamentalną sprzeczność: po zakończeniu wstępnego treningu ich wiedza zostaje zamrożona, a poleganie wyłącznie na oknie kontekstowym oznacza, że wszystkie nowe fakty znikają wraz z końcem sesji. Ciągłe aktualizacje parametrów nowymi danymi często prowadzą z kolei do zjawiska określanego jako katastrofalne zapominanie (catastrophic forgetting), w którym przyswajanie nowych zadań znacząco pogarsza skuteczność w tych opanowanych wcześniej.

Naukowcy z Google Research postanowili rozwiązać ten dylemat, sięgając po analogię biologiczną. W opublikowanym opracowaniu przedstawiono koncepcję tzw. sleep framework — paradygmatu uczenia ustawicznego, który dzieli cykl życia modelu na dwie naprzemienne fazy: czuwanie (wake phase) oraz sen (sleep phase).

Konsolidacja pamięci i kontrolowane marzenia senne

W fazie aktywnej model wchodzi w interakcje z użytkownikami i gromadzi bieżące informacje w szybkich strukturach pamięci krótkoterminowej. Gdy przechodzi w tryb offline, zatrzymuje przyjmowanie zapytań i przekierowuje moc obliczeniową na wewnętrzne przetwarzanie wiedzy. Proces ten składa się z dwóch etapów inspirowanych fazami ludzkiego snu:

• Konsolidacji pamięci (odpowiednik fazy NREM): ulotne informacje z kontekstu zostają przeniesione do długoterminowych wag parametrycznych. Model nie modyfikuje przy tym bazowych parametrów — zamiast tego odblokowuje nową pojemność w ramach architektury Mixture-of-Experts (MoE) i struktury Hope, wykorzystując niskorankowe moduły ekspertów. Transfer odbywa się za pomocą uogólnionej destylacji wiedzy (GKD) połączonej z uczeniem przez naśladowanie sterowanym uczeniem ze wzmocnieniem. Po utrwaleniu wiedzy następuje „przycinanie synaptyczne”, czyli czyszczenie pamięci krótkoterminowej pod kolejne sesje.
• Generowania snów (odpowiednik fazy REM): w celu autonomicznego doskonalenia router MoE losowo aktywuje niestandardowe zestawy ekspertów, zmuszając sieć do łączenia odległych dziedzin. Model generuje syntetyczne przykłady treningowe, filtruje je na podstawie sygnałów gradientowych, wybierając najbardziej wartościowe próbki, a następnie przeprowadza precyzyjne douczanie.

Wyniki w testach: kontekst do 10 mln tokenów i matematyka

Zaproponowany mechanizm sprawia, że transfer wiedzy działa jak ustrukturyzowana kompresja niskorankowa — zamiast powielać każdy szczegół z okna kontekstowego, model zachowuje kluczowe kierunki semantyczne i behawioralne.

W testach ciągłego tłumaczenia na rzadkie języki, takie jak mandżurski czy kalamang, architektura Google Research utrzymała stabilne wyniki bez zauważalnego spadku jakości w kolejnych etapach nauki, podczas gdy wyniki standardowych metod douczania (SFT) oraz podejść bazujących wyłącznie na in-context learning drastycznie się pogorszyły. Na benchmarku BABILong model wykazał niemal bezbłędne skalowanie w kontekście sięgającym do 10 milionów tokenów, skutecznie kompresując obszerne informacje bezpośrednio do pamięci trwałej.

W zadaniach sprawdzających wchłanianie nowej wiedzy faktograficznej (SQuAD oraz continued pre-training) metoda osiągnęła wyniki na poziomie odpowiednio 48,9% i 46,2%, przewyższając model bazowy oraz techniki adaptacyjne pokroju SEAL. Z kolei na wymagających benchmarkach rozumowania matematycznego — AIME 24, AIME 25 oraz HMMT 25 — system ze zintegrowanym cyklem snu uzyskał dokładność wynoszącą odpowiednio 79,2%, 69,0% oraz 46,1%, wyprzedzając podejścia oparte na algorytmie GRPO czy standardowej samodestylacji.