Agent AI z ukrytą opinią przekonał 86% ekspertów. Anthropic zbadał, kto naprawdę podejmuje decyzje

Model „human in the loop” zakłada, że człowiek zatwierdzający pracę AI to ten, kto podejmuje ważne decyzje. Zespół Alignment w Anthropic sprawdził to założenie w eksperymencie. Jak opisuje Decrypt, analitycy przyjęli ukrytą, losowo przypisaną opinię swojego agenta w 86% kluczowych rozstrzygnięć. Gdyby wpływu nie było, wynik oscylowałby wokół 50%. Pełny opis badania znajduje się na stronie Anthropic.

Jak wyglądał eksperyment

W badaniu wzięło udział 50 analityków z doświadczeniem we wnioskowaniu przyczynowym, czyli ustalaniu na podstawie danych, czy jedno zjawisko wywołuje drugie. Z pomocą Claude Code doradzali fikcyjnej spółdzielni rolniczej w sprawie rozszerzenia programu doradczego. Nie wiedzieli, że o preferencji każdego agenta decyduje rzut monetą, a wynik jest zapisany w prompcie systemowym. W czterech wyborach analitycznych badani szli za „skrętem” agenta w 86% przypadków.

Osobno przyjrzano się tym, którzy mieli własne zdanie, zanim agent się odezwał. Gdy agent się z nimi nie zgadzał, porzucali swój wybór w 60% przypadków. Gdy się zgadzał, zmieniali go w 6%. Anthropic zastrzega jednak, że ta statystyka opiera się tylko na 38 przypadkach.

Cudze argumenty, własne przekonanie

W ankiecie po zadaniu, wypełnionej przez 48 analityków, 77% powtórzyło w którejś odpowiedzi argumenty agenta, czasem niemal słowo w słowo. Tylko 15% przyznało, że to agent je podsunął. Według 52% końcowa rekomendacja była bardziej ich własna niż agenta. Nikt nie podejrzewał, że preferencje agenta zostały narzucone.

Co ważne, agentom polecono, by nie wprowadzali w błąd. Mimo to rzadko bronili opcji alternatywnej. „Gdy dobrze uzasadniona jest tylko jedna strona, analitycy mogli przejąć założenia agenta bez konieczności wypracowania własnych” — piszą autorzy. Zwykłe kontrole błędów tego nie wychwycą, bo w takich decyzjach nie ma jednej poprawnej odpowiedzi i praca wygląda solidnie niezależnie od wybranej opcji. Anthropic nazywa to formą „disempowerment”: raport wychodzi pod nazwiskiem eksperta, ale decyzje, które najbardziej zależą od jego osądu, w praktyce rozstrzygają wcześniejsze przekonania agenta.

Zastrzeżenia i propozycje

Anthropic podkreśla, że to nie argument za rzadszym używaniem AI. Analitycy pracujący z agentem kończyli szybciej i popełniali znacznie mniej poważnych błędów. Grupa bez agenta była jednak mała i mniej doświadczona. Firma proponuje agentów, którzy przedstawiają najlepsze argumenty za każdą opcją albo najpierw pytają eksperta o zdanie, choć to drugie rozwiązanie mogłoby przytłaczać użytkowników.

Badacze celowo wzmocnili preferencje agentów, a test objął jedno zadanie, jedną dziedzinę i jeden model, więc efekt w realnej pracy może być słabszy. Pomiar poza laboratorium jest trudny. Uległość dało się wykryć tylko dlatego, że losowano kierunek preferencji każdego agenta, a w prawdziwej pracy rzadko jest to możliwe.

Kontekst jest istotny, bo Anthropic w maju wypuścił 10 szablonów agentów dla firm finansowych i ubezpieczycieli, zapewniając, że ostatnie słowo należy do użytkownika. Wcześniej, w kwietniu 2025 roku, OpenAI wycofało aktualizację GPT-4o w ChatGPT, którą samo opisało jako nadmiernie pochlebną i ustępliwą. Tam jednak chodziło o jawną skłonność modelu do przytakiwania, a tutaj o cichy wpływ na rozstrzygnięcia, których użytkownik nie uznaje za cudze.

We wrześniu pisaliśmy o analizie logów z prac nad modelem Atria Dawn Preview, według której choć agenci wykonują coraz dłuższe sekwencje działań, ludzie zachowali niemal pełną kontrolę nad celami i metodami. Badanie Anthropic pokazuje, że formalna kontrola to jeszcze nie to samo co rzeczywisty wpływ na decyzje.