Elysia: Nowy framework Python AI rewolucjonizuje systemy RAG dzięki drzewom decyzyjnym i inteligentnemu przetwarzaniu danych

Budowa skutecznego systemu RAG (Retrieval-Augmented Generation) to wyzwanie, o czym przekonał się każdy, kto próbował. Często kończy się to frustracją: podajesz systemowi dokumenty, a on w odpowiedzi generuje niespójne fragmenty tekstu, które ledwo odpowiadają na zadane pytanie. Elysia, nowy framework open-source stworzony przez Weaviate, ma to zmienić.

Elysia nie polega na dodawaniu kolejnych warstw AI do istniejących rozwiązań. Zamiast tego, radykalnie zmienia sposób, w jaki agenci AI pracują z danymi. Wykorzystuje drzewa decyzyjne, aby prowadzić AI przez proces podejmowania decyzji, zamiast zasypywać ją wszystkimi narzędziami naraz. To jak danie dziecku dostępu do całej skrzynki z narzędziami i oczekiwanie, że zbuduje regał – mało prawdopodobne.

Trzy filary Elysii:

Drzewa Decyzyjne

Elysia prowadzi agentów AI przez strukturę decyzyjną. Każdy krok ma kontekst poprzednich działań i dostępnych opcji. System pokazuje, jaką ścieżkę obrał agent i dlaczego, co ułatwia debugowanie. Jeśli AI stwierdzi, że nie może czegoś zrobić (np. szukać cen samochodów w bazie danych kosmetyków), ustawia flagę „niemożliwe” i przechodzi dalej.

Inteligentne wyświetlanie danych

Elysia analizuje dane i dobiera odpowiedni sposób ich prezentacji. Produkty e-commerce są wyświetlane jako karty produktów, zgłoszenia z GitHub – jako tickety, a dane z arkuszy kalkulacyjnych – jako tabele. System bada strukturę danych (pola, typy, relacje) i wybiera jeden z siedmiu formatów prezentacji.

Ekspertyza danych

Przed rozpoczęciem wyszukiwania, Elysia analizuje bazę danych, aby zrozumieć jej zawartość. Generuje metadane, podsumowuje informacje i wybiera odpowiednie typy wyświetlania. Analizuje rodzaje pól, zakresy danych, relacje między elementami i potencjalne zapytania.

Jak to działa?

Uczenie się na podstawie informacji zwrotnych

Elysia zapamiętuje, które odpowiedzi użytkownicy uznali za pomocne i wykorzystuje te przykłady do poprawy przyszłych rezultatów. System uczy się na konkretnych przypadkach, co pozwala na stosowanie mniejszych i tańszych modeli, które nadal dają dobre wyniki.

Chunking z sensem

Większość systemów RAG dzieli dokumenty na fragmenty z góry, co generuje wysokie koszty związane z przechowywaniem danych i często skutkuje nielogicznymi podziałami. Elysia dzieli dokumenty tylko wtedy, gdy jest to konieczne. Najpierw przeszukuje całe dokumenty, a dopiero gdy dokument wygląda na istotny, ale jest zbyt długi, dzieli go na fragmenty na bieżąco.

Routing modeli

Różne zadania wymagają różnych modeli. Proste pytania nie potrzebują GPT-4, a złożona analiza nie działa dobrze z małymi modelami. Elysia automatycznie kieruje zadania do odpowiedniego modelu na podstawie ich złożoności, co pozwala zaoszczędzić pieniądze i przyspieszyć działanie.

Pierwsze kroki

Instalacja i uruchomienie Elysii jest proste:

pip install elysia-ai
elysia start

Otrzymujesz interfejs webowy i framework Python.

Dla programistów chcących dostosować system:

from elysia import tool, Tree

tree = Tree()

@tool(tree=tree)
async def add(x: int, y: int) -> int:
    return x + y

tree("What is the sum of 9009 and 6006?")

Jeśli masz dane w Weaviate, jest jeszcze prościej:

import elysia
tree = elysia.Tree()
response, objects = tree(
    "What are the 10 most expensive items in the Ecommerce collection?",
    collection_names = ["Ecommerce"]
)

Przykład z życia: Chatbot Glowe

Platforma chatbotów do pielęgnacji skóry Glowe wykorzystuje Elysia do obsługi rekomendacji produktów. Użytkownicy mogą pytać o np. „Jakie produkty dobrze współgrają z retinolem, ale nie podrażniają wrażliwej skóry?” i otrzymywać inteligentne odpowiedzi uwzględniające interakcje składników, preferencje użytkownika i dostępność produktów.

Elysia to próba wyjścia poza schemat tradycyjnych systemów RAG poprzez połączenie agentów z drzewami decyzyjnymi, adaptacyjnej prezentacji danych i uczenia się na podstawie opinii użytkowników. Framework oferuje podstawę do budowania bardziej zaawansowanych aplikacji AI, które rozumieją zarówno pytania użytkowników, jak i sposób efektywnego prezentowania odpowiedzi. Elysia ma zastąpić system Verba RAG od Weaviate. Aktualnie pozostaje w fazie beta.