Accenture oskarżone o raport pełen halucynacji AI. Firma twierdzi, że to błąd ludzi

Accenture znalazło się pod presją po analizie firmy GPTZero, która zajmuje się wykrywaniem treści generowanych przez AI. Jak podaje Yahoo Finance, według analizy GPTZero raport „Leapfrogging Development” ma zawierać 15 fikcyjnych odwołań do źródeł oraz całkowicie fikcyjne studia przypadków. Dokument powstał we współpracy z badaczami z madryckiego IE University i miał pokazywać, jak AI może zwiększyć produktywność rolnictwa w Afryce.

W własnym opisie sprawy GPTZero poszło dalej. Firma przeanalizowała trzy materiały Accenture i naliczyła w nich łącznie 31 zmyślonych odwołań do źródeł spośród 245 sprawdzonych. Edward Tian z GPTZero przekonywał, jak przytacza FT Chinese, że wzorzec błędów jest „zdecydowanie bardziej zgodny ze wzorcami halucynacji AI niż ze sporadycznymi nieścisłościami związanymi z badaniami prowadzonymi przez ludzi”. W komunikacie firma ostrzega też, że zmyślone odwołania do źródeł stanowią „realne i bezpośrednie zagrożenie” dla badaczy, akademików, konsultantów, studentów i każdego, kto szuka informacji w internecie. Może to „zatruć studnię informacyjną”, jeśli fałszywe dane będą trafiały do odpowiedzi chatbotów i streszczeń.

Accenture odrzuca tę diagnozę. Rzecznik firmy oświadczył, że przegląd wskazuje na błąd ludzki, a „nie ma dowodów”, by błędy wygenerowała AI. Raport jest poprawiany przed ponownym wydaniem. Nie wiadomo, na czym opiera się ta ocena ani które fragmenty uznano za pomyłki autorów. Spór dotyczy więc nie tyle samych błędów, ile ich pochodzenia, a to z zewnątrz trudno jednoznacznie rozstrzygnąć.

Wizerunkowo to niewygodny moment. Szefowa Accenture Julie Sweet ostrzegała w zeszłym roku, że w ramach transformacji AI firma będzie się „żegnać” z konsultantami, którzy nie korzystają z tej technologii. Zachęta do używania AI okazała się zresztą tak skuteczna, że w październiku firma musiała wprowadzić limity. Część pracowników generowała miesięczne rachunki powyżej 1000 dolarów za narzędzia takie jak Claude, o czym pisał Telegraph.

Accenture nie jest pierwsze. Podobne zarzuty padały wobec Deloitte, EY, KPMG i PwC. O zmyślonych źródłach w materiałach PwC pisaliśmy w lipcu. Problem dotyczy też prawników. Pinsent Masons przyznało się do halucynacji AI w dokumentach złożonych w brytyjskim High Court, a Sullivan & Cromwell, które policzy nawet 3000 dolarów za godzinę, do błędów AI w pismach dla sądu w Nowym Jorku.

Sprawa Accenture wpisuje się więc w serię przypadków, w których duże firmy doradcze i kancelarie musiały odpierać zarzuty lub przyznawać się do błędów związanych z AI w publikowanych bądź składanych dokumentach.