Medyczne halucynacje. AI zalewa literaturę naukową zmyślonymi badaniami

Współczesna nauka mierzy się z kryzysem, który nie wynika z ludzkiego błędu, lecz z bezkrytycznego podawania faktów przez algorytmy. Najnowsze badanie opublikowane w The Lancet ujawnia drastyczny wzrost liczby sfabrykowanych cytowań w publikacjach biomedycznych. Zespół Maxima Topaza z Uniwersytetu Columbia przeanalizował blisko 2,5 miliona prac z bazy PubMed Central. Wyniki nie zostawiają złudzeń: wskaźnik fałszywych referencji wzrósł ponad dwunastokrotnie od początku 2023 roku.

Problem zyskał na znaczeniu w ostatnich tygodniach, gdy wydawnictwa naukowe zaczęły oficjalnie ostrzegać przed generatywną AI jako fabryką zmyślonych cytowań. To nie jest już tylko ciekawostka technologiczna, ale systemowe zagrożenie. Redakcje czasopism w pośpiechu rewidują polityki i wdrażają protokoły do automatycznego wykrywania halucynacji w bibliografiach, próbując ratować standardy, które przez lata uznawano za nienaruszalne.

Mechanizm cyfrowej iluzji

Zjawisko bezpośrednio łączy się z upowszechnieniem modeli językowych. O ile w 2023 roku problem dotyczył średnio 4 prac na 10 tysięcy, o tyle na początku 2026 roku liczba ta skoczyła do blisko 57. Skąd to opóźnienie? To efekt cyklu wydawniczego. Teksty wygenerowane przez AI w 2023 roku przeszły przez sito recenzji i trafiły do baz danych dopiero po kilkunastu miesiącach.

Sfabrykowane źródła są wyjątkowo groźne, bo na pierwszy rzut oka wyglądają autentycznie. Pasują do tematyki, mają poprawny format bibliograficzny, wymieniają realne nazwiska i wiarygodne roczniki. W jednym z analizowanych tekstów o urologii aż 18 z 30 podanych źródeł nigdy nie istniało. Tytuły brzmiały jednak tak profesjonalnie, że uspiły czujność recenzentów.

Zagrożenie dla wytycznych klinicznych

Największy niepokój budzi fakt, że halucynacje najczęściej pojawiają się w artykułach przeglądowych. To one stanowią fundament dla wytycznych leczenia pacjentów. Jeśli proces medyczny opiera się na nieistniejących dowodach, podważony zostaje cały łańcuch bezpieczeństwa. Badacze wskazują też na tzw. młyny papieru (paper mills) – zorganizowane grupy produkujące masowo niskiej jakości artykuły dla akademickich punktów.

Systemowa bezradność wydawców

Reakcja środowiska pozostaje spóźniona. Choć platformy takie jak Arxiv wprowadzają sankcje, w tym roczne zakazy publikacji za używanie niesprawdzonych treści, większość błędnych prac wciąż krąży w obiegu. Aż 98,4% zidentyfikowanych w badaniu artykułów z fałszywymi rekordami nie doczekało się żadnego sprostowania.

Autorzy raportu domagają się konkretów: automatycznej weryfikacji bibliografii przed recenzją, oznaczania integralności danych i skanowania archiwów. Co ciekawe, sami badacze podczas pracy nad raportem używali modelu Claude. To jasny sygnał: AI może pomagać w warsztacie, ale nie wolno jej zostawiać rygoru naukowego bez nadzoru.