Maszyny na zakupach: Anthropic testuje gospodarkę agentów AI

Sztuczna inteligencja wchodzi w rolę negocjatora

W laboratoryjnych warunkach sprawdzono scenariusz, który jeszcze niedawno wydawał się domeną literatury science-fiction: autonomiczne systemy AI handlujące między sobą realnymi towarami za realne pieniądze. Zespół Anthropic przeprowadził pilotażowy program o nazwie Project Deal, w którym stworzono zamknięty rynek ogłoszeniowy. W rolę kupców i sprzedawców wcieliły się algorytmy reprezentujące interesy 69 pracowników firmy.

Uczestnicy otrzymali budżet w wysokości 100 dolarów, wypłacany w formie kart podarunkowych, i mieli za zadanie nabyć przedmioty od swoich kolegów z pracy. Cały proces negocjacyjny – od pierwszego zapytania po finalizację warunków transakcji – spoczywał na barkach agentów. Skala sukcesu zaskoczyła samych twórców: w trakcie testu sfinalizowano 186 transakcji o łącznej wartości przekraczającej 4000 dolarów.

Pułapka kompetencji i nierówne szanse

Najciekawsze wnioski płyną jednak z porównania efektywności różnych modeli językowych. Anthropic uruchomiło cztery odrębne rynki, różnicując stopień zaawansowania cyfrowych pośredników. Dane nie pozostawiają złudzeń – użytkownicy reprezentowani przez nowocześniejsze, bardziej inteligentne modele osiągali obiektywnie lepsze wyniki finansowe. Co alarmujące, osoby znajdujące się po „słabszej” stronie transakcji rzadko zdawały sobie sprawę z faktu, że ich interesy są reprezentowane gorzej niż konkurencji.

Zjawisko to, nazwane przez badaczy „luką jakościową agentów”, stawia pytania o etykę przyszłego handlu zautomatyzowanego. Jeśli o sukcesie finansowym transakcji decyduje wyłącznie dostęp do droższej lub potężniejszej technologii, rynek może zostać zdominowany przez użytkowników z najsilniejszymi algorytmami, podczas gdy reszta pozostanie nieświadoma swojej straty.

Instrukcje bez znaczenia?

Eksperyment przyniósł również dość nieoczekiwaną konkluzję dotyczącą sterowalności agentów. Okazało się, że wstępne instrukcje i wytyczne negocjacyjne przekazywane modelom nie miały statystycznie istotnego wpływu na szansę dokonania sprzedaży ani na ostatecznie wynegocjowane ceny. Sugeruje to, że modele w interakcjach rynkowych kierują się własną, wewnętrzną logiką optymalizacji procesu, często ignorując niuanse narzucone przez użytkownika. Choć Project Deal był jedynie ograniczoną próbą, stanowi on wyraźny sygnał, że nadchodzi era, w której nasze portfele zostaną oddane w ręce algorytmów, których przewaga może być dla nas niewidoczna.