Taniec kosztów w świecie AI: Nowa metoda na efektywnych i przystępnych cenowo agentów AI

W świecie sztucznej inteligencji, gdzie postęp technologiczny zdaje się nie mieć granic, pojawia się fundamentalne pytanie: czy możemy sobie pozwolić na to, by rozwój AI dyktowały jedynie budżety korporacji? Najnowsze badania zespołu OPPO AI Agent sugerują, że odpowiedź brzmi: nie. Prezentują oni bowiem innowacyjne podejście do tworzenia agentów AI, które radykalnie obniża koszty, zachowując przy tym wysoką efektywność.

Problem skalowalności kosztów

Wydajne agenty AI, oparte na zaawansowanych modelach językowych (LLM) takich jak GPT-4 czy Claude, otwierają nowe możliwości w automatyzacji złożonych zadań. Ich wdrożenie na szeroką skalę jest jednak hamowane przez wysokie koszty operacyjne. Każde zapytanie do API modelu LLM generuje koszty, które przy tysiącach użytkowników szybko stają się barierą nie do pokonania. Badacze z OPPO postanowili przyjrzeć się temu problemowi z bliska.

Kluczowy wskaźnik: Cost-of-Pass

Wprowadzony przez zespół OPPO wskaźnik „cost-of-pass” (koszt przejścia) to rewolucyjne narzędzie do pomiaru efektywności agentów AI. Definiuje on całkowity koszt wygenerowania poprawnej odpowiedzi na zadane pytanie, uwzględniając zarówno koszt tokenów (słów przetwarzanych przez model), jak i skuteczność modelu w rozwiązywaniu problemów za pierwszym razem. Analiza „cost-of-pass” ujawnia zaskakujące wnioski. Mimo że modele takie jak Claude 3.7 Sonnet osiągają wysoką dokładność, ich koszt przejścia jest trzykrotnie wyższy niż w przypadku GPT-4.1. Dla prostszych zadań, mniejsze modele (np. Qwen3-30B-A3B) oferują znacznie korzystniejszy stosunek ceny do jakości.

Eksperymenty: Jak obniżyć koszty?

Naukowcy z OPPO przeprowadzili serię eksperymentów, analizując wpływ różnych czynników na koszt i efektywność agentów AI:

• Wybór modelu bazowego: Claude 3.7 Sonnet osiąga wprawdzie wysoką dokładność (61.82%), ale kosztuje aż 3.54 dolara za poprawne wykonanie zadania. GPT-4.1, przy nieco niższej dokładności (53.33%), redukuje koszt do 0.98 dolara. Model Qwen3 jest najtańszy, generując koszt rzędu 0.13 dolara za zadanie.
• Planowanie i skalowanie: Paradoksalnie, nadmierne planowanie nie przekłada się na znaczący wzrost skuteczności, a jedynie generuje dodatkowe koszty. Podobnie, techniki skalowania, które pozwalają agentowi na testowanie wielu opcji, prowadzą do gwałtownego wzrostu kosztów obliczeniowych przy minimalnym wzroście dokładności.
• Wykorzystanie narzędzi: Wykorzystanie przeglądarek i wyszukiwarek internetowych jest kluczowe dla agentów AI, ale – jak się okazuje – zbyt skomplikowane interakcje z przeglądarką, takie jak przewijanie stron, nie przynoszą wymiernych korzyści, generując jedynie dodatkowe koszty.
• Pamięć agenta: Najprostsza forma pamięci, przechowująca jedynie informacje o wykonanych akcjach i obserwacjach, zapewnia optymalny balans między kosztem i efektywnością. Rozbudowane moduły pamięci okazują się zbędne i prowadzą do spowolnienia działania agenta.

Efficient Agents: Nowy standard efektywności

Na podstawie przeprowadzonych badań, zespół OPPO stworzył framework „Efficient Agents”, który pozwala na budowę agentów AI o wysokiej efektywności i niskich kosztach. Kluczowe elementy tego podejścia to:

• Wykorzystanie modelu GPT-4.1, który oferuje dobry balans między jakością a ceną.
• Ograniczenie liczby kroków planowania, aby uniknąć nadmiernego „przetwarzania”.
• Wykorzystanie różnorodnych źródeł informacji (Google, Wikipedia), ale unikanie skomplikowanych interakcji z przeglądarką.
• Utrzymywanie prostej i efektywnej pamięci agenta.

W efekcie, agenci zbudowani w oparciu o framework „Efficient Agents” osiągają 96.7% skuteczności najlepszych rozwiązań open-source (takich jak OWL), przy jednoczesnej redukcji kosztów o 28.4%.

Implikacje dla przyszłości AI

Badania OPPO stanowią ważny krok w kierunku demokratyzacji AI. Pokazują one, że inteligentne systemy nie muszą być drogie, aby być skuteczne. Wraz z rosnącą popularnością sztucznej inteligencji, efektywne projektowanie systemów AI będzie kluczowe zarówno dla startupów, jak i dla korporacji z listy Fortune 500. Otwarty charakter frameworku „Efficient Agents” zachęca do eksperymentowania i wdrażania tych innowacyjnych rozwiązań. Nadszedł czas, aby spojrzeć na AI z nowej perspektywy – perspektywy efektywności i dostępności.