Iluzja wiarygodności: modele AI podają trafne odpowiedzi, ale chybiają ze źródłami

Współczesne modele językowe coraz rzadziej mylą fakty w prostych zapytaniach, jednak za fasadą poprawności kryje się poważny defekt strukturalny. Naukowcy z Uniwersytetu Pekińskiego oraz Szanghajskiego Laboratorium Sztucznej Inteligencji zidentyfikowali zjawisko, które nazwali „halucynacją atrybucyjną”. Polega ono na tym, że systemy AI generują poprawną merytorycznie odpowiedź, ale zupełnie nie potrafią wskazać jej rzeczywistego źródła w analizowanym dokumencie.

Problem ten uderza w fundamenty zaufania do technologii w sektorach wysokiego ryzyka. Według danych opublikowanych w „Nature”, odsetek publikacji cytujących wycofane prace wzrósł drastycznie – z poziomu 1:1722 w 2015 roku do aż 1:277 na początku 2026 roku. Skalę zjawiska poczuły już media, m.in. gdy jeden z portali musiał wycofać artykuł po interwencji naukowca, który wykazał, że przywołane w nim badania po prostu nie istnieją. Te „zmyślone dowody” to nie margines, a systemowa słabość obecnej generacji LLM.

Benchmark CiteVQA demaskuje słabości gigantów

Tradycyjne testy oceniają jedynie końcowy wynik. Pozwala to modelom na stosowanie skrótów opartych na wiedzy ogólnej z etapu treningu, zamiast na rzetelnej analizie dostarczonego pliku. Nowy benchmark CiteVQA kładzie kres tej praktyce. Wymaga od AI precyzyjnego wskazania akapitu, tabeli lub ryciny. Wyniki są uderzające. Nawet liderzy rynku wykazują drastyczny spadek formy, gdy muszą „pokazać obliczenia”.

Model GPT-4, który pod względem czystej merytoryki uzyskał 87,1 pkt, osunął się do poziomu 59 pkt wskaźnika SAA (Strict Attributed Accuracy), punktującego wyłącznie odpowiedzi z bezbłędnym wskazaniem źródła. Gemini 1.5 Pro Preview osiągnął najwyższy wynik – 76 punktów na 100. Statystyki te pokazują, że systemy te często zgadują lub ekstrapolują zamiast przetwarzać dane w sposób deterministyczny. Redakcja „Gazety Lekarskiej”, opierając się na badaniach zespołu Vincenza Guastafierro, ostrzega wprost:

Halucynacje sztucznej inteligencji w medycynie mogą dotyczyć diagnoz, interpretacji wyników badań, a nawet powoływania się na nieistniejące publikacje naukowe czy wytyczne kliniczne.

Przepaść między modelami komercyjnymi a open-source

Dla sektora regulowanego szczególnie niepokojące są wyniki modeli otwartoźródłowych. Najmocniejszy z nich, Qwen2-VL-72B, osiągnął zaledwie 22,5 punktu. Mniejsze modele lądowały poniżej granicy 10 punktów, co czyni je ekstremalnie ryzykownymi w profesjonalnych zastosowaniach. Problem pogłębia się wraz ze złożonością wizualną dokumentów. O ile teksty o czystym układzie są dla AI czytelne, o tyle gazety z rozbudowanym layoutem obniżają skuteczność nawet najlepszych systemów do poziomu 63 punktów.

Przyczyny systemowego błędu

Badacze wskazują na dwa główne źródła problemu. Po pierwsze, obecne paradygmaty treningowe promują pewność siebie – modele są nagradzane za udzielenie odpowiedzi, a nie za przyznanie, że nie potrafią czegoś zlokalizować. Po drugie, trudność sprawia tzw. „pamięć kontekstowa”. Gdy pytanie wymaga połączenia informacji z kilku dokumentów, skuteczność Gemini spada z 69 do 55 procent.

Udostępnione na platformach GitHub i Hugging Face dane CiteVQA stanowią jasny sygnał dla deweloperów: czas przestać gonić za elokwencją, a zacząć pracować nad rzetelnością dowodową. Bez tego AI pozostanie jedynie zręczną symulacją wiarygodności.