PwC publikuje zmyślone źródła. Paradoks zaufania w doradztwie AI

Eksperci z Wielkiej Czwórki przekonują zarządy spółek, że bez ich wsparcia wdrożenie sztucznej inteligencji skończy się katastrofą. Tymczasem PwC Middle East samo wpadło w pułapkę, przed którą oficjalnie ostrzega klientów. W oficjalnych raportach firmy znaleziono halucynacje AI, zmyślone badania i przypisy prowadzące do nikąd.

Dlaczego to ważne właśnie teraz? Incydent z PwC Middle East uderza w fundamenty branży konsultingowej, która chce zarabiać na audytowaniu algorytmów innych firm. Publikowanie dokumentów z 43 przypisami, z których część to czysta fikcja, obnaża brak elementarnej kontroli nad narzędziami typu ChatGPT wewnątrz struktur doradczych. To sygnał alarmowy dla każdego, kto bezkrytycznie ufa raportom sygnowanym przez wielkie marki.

Źródła, których nie ma

Analiza dokumentów wydanych w ciągu ostatnich dwóch lat ujawniła kuriozalne błędy. Eksperci PwC dopuścili do publikacji treści popartych nieistniejącą literaturą naukową. W jednym przypadku raport powoływał się na badanie jakości powietrza w Rijadzie, którego próżno szukać w cytowanym periodyku czy w dorobku wskazanych autorów. Jeszcze bardziej kompromitujący okazał się jeden z linków, który zawierał parametr „utm_source=chatgpt.com”. To dowód na kopiowanie odpowiedzi z bota bez jakiejkolwiek weryfikacji.

Metodologiczna niefrasobliwość sięgnęła zenitu, gdy jako autorytet w dziedzinie agentycznej sztucznej inteligencji zacytowano nastoletniego blogera. Chłopak, którego na platformie Medium obserwuje zaledwie 280 osób, stał się dla PwC źródłem informacji o sukcesach wdrożeniowych banku JPMorgan. W kontekście renomy globalnej firmy doradczej wygląda to na całkowity paraliż procesów redakcyjnych.

Problem całej branży konsultingowej

Reakcja PwC Middle East była zachowawcza. Firma zadeklarowała, że traktuje dokładność badań bardzo poważnie i aktualizuje „ograniczoną liczbę przypisów”. Trudno jednak nie zauważyć tu systemowego problemu. Consulting żyje z zaufania, a sprzedawanie usług w zakresie odpowiedzialnego AI w momencie, gdy własne publikacje zawierają zmyślone fakty, podważa sensowność takich kontraktów.

PwC nie jest jedyne. Wcześniej podobne wpadki zmusiły konkurentów – EY oraz KPMG – do wycofywania materiałów. Branża doradcza w pogoni za efektywnością zdaje się zapominać, że technologia bez rygorystycznej, ludzkiej weryfikacji staje się wytwórnią kosztownego wstydu. Zjawisko to zyskało już nazwę „przypisów na wyczucie” (vibe citations) – brzmieją profesjonalnie, dopóki nikt ich nie kliknie.