Koniec mody na roje agentów AI? Inżynier OpenAI ostrzega przed „podatkiem od koordynacji”
Budowanie rozbudowanych struktur opartych na wielu współpracujących ze sobą sub-agentach AI staje się coraz popularniejszym trendem, jednak zdaniem praktyków z OpenAI, często jest to droga do finansowej katastrofy. Eric Provencher, inżynier pracujący nad modelem Codex, ostrzega, że w obecnych realiach wykorzystanie więcej niż dwóch równoległych sub-agentów zwykle zwiększa zużycie tokenów przy zerowym wzroście jakości wyników.
Podatek od koordynacji
Główną barierą w skalowaniu takich systemów jest zjawisko, które Provencher określa mianem „podatku od koordynacji”. Agenty pracujące w roju nie posiadają pełnego kontekstu i wzajemnie się nie ufają, co wymusza ciągłą, nadmiarową weryfikację pracy poprzedników. Prowadzi to do absurdalnych sytuacji związanych z kosztami, gdzie ogromna część mocy obliczeniowej jest marnowana na komunikację wewnętrzną systemu, a nie na realizację celu.
Jako przestrogę inżynier przywołał przypadek projektu wykorzystującego 1 393 agenty Fable. Próba zrefaktoryzowania za ich pomocą zaledwie jednego pliku w języku Python wygenerowała rachunek rzędu 20 000 dolarów. Provencher podkreśla, że pojedynczy, dobrze skonfigurowany agent wykonałby to samo zadanie za ułamek tej kwoty, unikając pułapki „rojowiska”.
Dlaczego systemy agentowe przepalają budżet?
Problemy z efektywnością wynikają z kilku konkretnych przyczyn technicznych:
- Powielanie system promptów: Każdy sub-agent musi otrzymać zestaw instrukcji, co na masową skalę generuje ogromną liczbę powtarzających się tokenów wejściowych.
- Brak kontekstu: Sub-agenty często nie „widzą” całości projektu, co zmusza je do powielania pracy wykonanej już przez inne moduły.
- Ciągłe odpytywanie: Architektury oparte na nieustannym odpytywaniu o status generują zbędny ruch i koszty.
Zamiast budowania rojów, Provencher zaleca deweloperom stosowanie prostszych wzorców. Skuteczniejszą alternatywą jest delegowanie zadań do oddzielnych wątków, które powiadamiają głównego agenta o zakończeniu pracy, zamiast zmuszać go do ciągłego nadzoru. Inżynier przyznał jednocześnie, że samo OpenAI musi dostarczyć lepsze natywne rozwiązania w zakresie routingu i koordynacji, aby ułatwić budowę wydajnych systemów w przyszłości.
