Krucha logika cyfrowych asystentów: Dlaczego nie powinieneś jeszcze powierzać zakupów AI

Wizja sztucznej inteligencji, która samodzielnie przeszukuje sieć i dokonuje za nas optymalnych zakupów, zderza się z twardą rzeczywistością akademickich testów. Badacze z Wharton School na University of Pennsylvania poddali analizie sześć popularnych modeli językowych – od wersji lekkich po potężne jednostki typu 'frontier’ – stawiając je w roli osobistych asystentów zakupowych. Wyniki sugerują, że algorytmy są skrajnie podatne na manipulację kontekstem, co stawia pod znakiem zapytania ich obiektywizm i użyteczność w handlu elektronicznym.

To kluczowy moment dla branży, ponieważ mimo entuzjazmu wokół automatyzacji, stabilność agentów zakupowych opartych na LLM okazuje się iluzoryczna. Według raportu Wharton Blueprint for AI Agent Adoption, obecna generacja modeli wykazuje niebezpieczną chwiejność decyzyjną. Badanie przeprowadzone z użyciem symulatora ACES (Agentic e-Commerce Simulator) dowodzi, że algorytmy często zmieniają zdanie pod wpływem przypadkowych danych, co czyni z nich nieprzewidywalnych konsumentów.

Podatność na sugestię i efekt Wirecutter

Podstawowy eksperyment polegał na wyborze zegarka sportowego z ustalonej siatki produktów. Okazało się, że wystarczy jeden zewnętrzny artykuł recenzencki, by całkowicie zmienić preferencje modeli. Najsilniejszy wpływ odnotowano w przypadku serwisu Wirecutter. Po zapoznaniu się z recenzją Fitbit Inspire 3, prawdopodobieństwo wyboru tego modelu przez Gemini 1.5 Flash wzrosło o imponujące 99 punktów procentowych w stosunku do grupy kontrolnej. Claude 3 Opus wykazał podobną tendencję, notując skok o 90 punktów. Co istotne, dorzucenie kolejnych źródeł wcale nie wprowadzało balansu – wręcz przeciwnie, potęgowało zmienność i chaos w procesie decyzyjnym.

Kolejność ma znaczenie

Dla człowieka informacja pozostaje tą samą informacją, niezależnie od tego, czy przeczyta ją rano, czy wieczorem. Dla agentów AI porządek prezentowanych danych jest jednak kluczowy. W teście, w którym podawano trzy różne źródła w zmiennych konfiguracjach, model Gemini 1.5 Flash wykazał się skrajną chwiejnością – szanse na wybór konkretnego produktu wahały się od 2 do 56 punktów procentowych ponad bazę, zależnie od tego, co model przeczytał najpierw. Badanie wykazało również różnice w sposobie podawania danych: modele reagowały znacznie silniej na pakiet informacji dostarczony zbiorczo niż na te same dane serwowane sekwencyjnie.

Emocje kontra matematyka

Najbardziej niepokojące wnioski płyną z próby, w której stworzono produkt obiektywnie najlepszy – tani smartwatch z pełną funkcjonalnością i doskonałymi opiniami. Choć matematycznie był to wybór bezkonkurencyjny, wystarczyło dopisać w pamięci agenta krótkie zdanie: 'Uwielbiam wędrówki!’. To wystarczyło, by większość modeli porzuciła tani, świetny produkt na rzecz wielokrotnie droższych modeli Garmina. Wyjątkiem okazał się Gemini 1.5 Flash, który jako jedyny zachował niemal pełną odporność na tego typu personalne wrzutki, trzymając się faktów w 90% przypadków.

Wyzwanie dla branży e-commerce

Dla konsumentów płynie z tego jasna lekcja: AI nie jest jeszcze gotowe na autonomiczne zarządzanie naszym portfelem. Brak spójności oznacza, że dwóch użytkowników z tym samym zapytaniem może otrzymać diametralnie różne rekomendacje bez żadnej racjonalnej przyczyny. Z kolei dla sprzedawców wyniki te zwiastują erę 'AI SEO’, która będzie znacznie trudniejsza niż pozycjonowanie w Google. Optymalizacja pod agenta, którego mechanizm wnioskowania zależy od nieznanych źródeł zewnętrznych, kolejności przetwarzania danych, a nawet trybu ich dostarczenia, staje się zadaniem niemal niemożliwym do przewidzenia.