Google rozwiązuje problem „pamięci” w rozmowach AI dzięki Vertex AI Memory Bank

Tworzenie efektywnych agentów AI, zdolnych do prowadzenia sensownych i ciągłych dialogów, od dawna stanowiło wyzwanie dla deweloperów. Istotnym problemem był brak „pamięci” u tych systemów. Agenci AI, pozbawieni zdolności do przypominania sobie wcześniejszych interakcji, traktowali każdą rozmowę jako odrębną jednostkę. Skutkowało to frustrującymi powtórzeniami pytań, niemożnością zapamiętania preferencji użytkownika i ogólnym brakiem personalizacji, co ostatecznie irytowało zarówno użytkowników, jak i twórców.

Dotychczasowe próby zażegnania tego problemu opierały się na umieszczaniu całych dialogów sesji bezpośrednio w oknie kontekstowym dużych modeli językowych (LLM). Podejście to, choć częściowo skuteczne, okazywało się drogie i nieefektywne obliczeniowo, prowadząc do wyższych kosztów inferencji i wydłużonego czasu reakcji. Co więcej, wprowadzanie zbyt dużej, a często nieistotnej, ilości informacji mogło negatywnie wpływać na jakość odpowiedzi modelu, manifestując się jako zjawisko „zagubienia w środku” (lost in the middle) czy „gnicia kontekstu” (context rot).

Vertex AI Memory Bank: Odpowiedź na palące potrzeby

Aby przezwyciężyć te ograniczenia, Google Cloud ogłosił publiczną wersję przedpremierową Vertex AI Memory Bank – nowej, zarządzanej usługi w ramach Vertex AI Agent Engine. Memory Bank ma na celu umożliwienie tworzenia wysoce spersonalizowanych agentów konwersacyjnych, którzy wspierają bardziej naturalne, kontekstowe i ciągłe interakcje. Wyobraźmy sobie spersonalizowanego agenta opieki zdrowotnej, który potrafi przypomnieć sobie kluczowe informacje o alergiach pacjenta i wcześniej zgłaszanych objawach, aby w bardziej świadomy sposób udzielić bieżącej odpowiedzi.

Memory Bank adresuje fundamentalny problem pamięci na kilka kluczowych sposobów:

• Personalizacja interakcji: Usługa wykracza poza ogólne skrypty, zapamiętując preferencje użytkownika, kluczowe wydarzenia i wcześniejsze wybory, aby dostosować każdą odpowiedź.
• Zachowanie ciągłości: Rozmowy mogą być płynnie kontynuowane od miejsca, w którym zostały przerwane, nawet jeśli sesje rozciągają się na dni lub tygodnie.
• Zapewnienie lepszego kontekstu: Agenci są wyposażeni w niezbędne informacje o użytkowniku, co prowadzi do bardziej trafnych, wnikliwych i pomocnych odpowiedzi.
• Poprawa doświadczenia użytkownika: Eliminuje frustrację użytkowników z konieczności powtarzania informacji, co tworzy bardziej naturalne, efektywne i angażujące rozmowy.

Mechanizmy działania Memory Bank

Działanie Memory Bank opiera się na inteligentnym, wieloetapowym procesie, wykorzystującym modele Google Gemini i najnowsze badania:

1. Analiza i ekstrakcja pamięci: Memory Bank analizuje historię rozmów użytkownika (przechowywaną w Agent Engine Sessions) w celu wydobycia kluczowych faktów, preferencji i kontekstu. Proces ten odbywa się asynchronicznie w tle, generując nowe pamięci bez konieczności budowania przez deweloperów złożonych potoków ekstrakcji.
2. Inteligentne przechowywanie i aktualizowanie pamięci: Kluczowe informacje, takie jak „preferuję słoneczne dni”, są przechowywane i organizowane według zdefiniowanego zakresu, np. identyfikatora użytkownika. Gdy pojawiają się nowe dane, Memory Bank, wykorzystując Gemini, może konsolidować je z istniejącymi pamięciami, rozwiązując sprzeczności i zapewniając aktualność informacji.
3. Przywoływanie istotnych informacji: Po rozpoczęciu nowej sesji rozmowy, agent może odzyskać te przechowywane pamięci. Może to być proste przypomnienie wszystkich faktów lub bardziej zaawansowane wyszukiwanie podobieństw za pomocą osadzonych reprezentacji (embeddings) w celu znalezienia pamięci najbardziej istotnych dla bieżącego tematu. To zapewnia, że agent jest zawsze wyposażony w odpowiedni kontekst.

Cały proces opiera się na nowatorskiej metodzie badawczej Google Research, przyjętej przez ACL 2025, która dostarcza inteligentne, tematyczne podejście do uczenia się i przypominania informacji przez agentów, ustanawiając nowy standard dla wydajności pamięci agenta. Doskonałym przykładem jest sposób, w jaki agent towarzyszący w dziedzinie urody może zapamiętywać zmieniający się typ skóry użytkownika, aby udzielać spersonalizowanych rekomendacji produktów.

Integracja z ekosystemem Google Cloud

Memory Bank jest zintegrowany z Agent Development Kit (ADK) i Agent Engine Sessions. Deweloperzy mogą zdefiniować agenta za pomocą ADK i włączyć Agent Engine Sessions do zarządzania historią rozmów w ramach poszczególnych sesji. Memory Bank może następnie zostać aktywowany, aby zapewnić długoterminową pamięć w wielu sesjach.

Integracja Memory Bank z agentem możliwa jest na dwa główne sposoby:

• Opracowanie agenta za pomocą Google Agent Development Kit (ADK) dla natychmiastowego użycia.
• Opracowanie agenta, który orkiestruje wywołania API do Memory Bank, jeśli agent jest budowany z wykorzystaniem innej platformy, w tym popularnych takich jak LangGraph i CrewAI.

Dla nowych użytkowników Google Cloud, którzy korzystają z ADK, dostępny jest ekspresowy tryb rejestracji dla Agent Engine Sessions i Memory Bank. Pozwala on na założenie konta za pomocą adresu Gmail, uzyskanie klucza API i korzystanie z usługi w ramach darmowych limitów, z możliwością późniejszej bezproblemowej aktualizacji do pełnego projektu Google Cloud dla środowisk produkcyjnych.