Zabójcza pewność siebie: Dlaczego chatboty wciąż zawodzą w radiologii

Geoffrey Hinton dekadę temu wieszczył koniec radiologów, twierdząc, że głębokie uczenie przejmie ich pracę w pięć lat. Dziś lekarze są bardziej obciążeni niż kiedykolwiek, a sam Hinton musiał wycofać się ze swoich słów. Najnowsze dane z benchmarku RadLE 2.0 (Radiology’s Last Exam) pokazują, że największym problemem AI nie jest brak wiedzy, lecz skrajna nieumiejętność przyznania się do błędu.

Dlaczego to ważne teraz

Nowe testy opracowane przez indyjski zespół CRASH Lab ujawniają krytyczną lukę w niezawodności systemów medycznych. Podczas gdy lekarze zdobywają w testach rzetelności 988,7 pkt na 2000 możliwych, najlepsze modele AI, takie jak Claude Fable 5, zostają w tyle z wynikiem 758 punktów. Problem jest palący, bo algorytmy, zamiast prosić o konsultację, coraz częściej generują błędne diagnozy z maksymalnym poziomem pewności siebie, co w warunkach klinicznych może prowadzić do tragicznych pomyłek.

Kiedy system nie wie, że błądzi

RadLE 2.0 to nowatorski test oceniający tzw. Radiology-Reliability Index. Modele mogły oceniać swoją pewność w skali 0-4 lub wybrać opcję „nie wiem”. Wyniki są bezlitosne: „Błędna diagnoza postawiona z pewnością siebie jest znacznie groźniejsza niż uczciwe 'nie wiem’. A jednak większość modeli ma z tym problem” – zauważa Suvran Kar Datta w publikacji dotyczącej wyników benchmarku.

Kluczem do względnego sukcesu Claude’a od Anthropic nie była najwyższa surowa trafność, lecz „uczciwe milczenie”. System ten najlepiej rozpoznaje własne ograniczenia. W opozycji stoi Gemini 3 Pro od Google. Choć w zaledwie trzy miesiące przeskoczył poziom rezydentów (osiągając 51% trafności wobec 45% u młodych lekarzy), wciąż nie potrafi zahamować arogancji przy błędnych założeniach.

Iluzja kompetencji i marketingowy szum

W oficjalnym raporcie technicznym badacze z CRASH Lab punktują rozbieżność między obietnicami marketingowymi a rzeczywistością. Twierdzenia o AI diagnozującej lepiej niż 99% lekarzy to często liczby wyrwane z kontekstu. Rzeczywistość modeli open-weight jest brutalna: starają się odpowiedzieć na każdy przypadek, co skutkuje lawiną pomyłek podanych z autorytetem. Meta w modelu Muse Spark 1.1 zdołała ograniczyć halucynacje o połowę, ale nie przez lepszą logikę, a po prostu ucząc maszynę częstszego odmawiania odpowiedzi.

Pułapka cyfrowej nawigacji

Niekontrolowana adopcja AI w placówkach niesie jeszcze jedno ryzyko: atrofię ludzkich umiejętności. Polskie badanie obserwacyjne z 2025 roku dotyczące kolonoskopii pokazało to czarno na białym. U lekarzy, którzy przyzwyczaili się do cyfrowego wsparcia, współczynnik wykrywalności zmian spadł z 28,4% do 22,4% natychmiast po odłączeniu algorytmu. To efekt „Google Maps” – bez nawigacji specjalista czuje się zagubiony we własnej dziedzinie.

Zredukowanie radiologii do czystej analizy obrazu było błędem. Jak wskazuje pełna analiza na arXiv, zwiększenie wysiłku obliczeniowego (tzw. reasoning effort) w nowych modelach typu GPT-5 poprawia trafność zaledwie o 1%, wydłużając czas odpowiedzi aż sześciokrotnie. Zanim systemy AI otrzymają samodzielność, muszą nauczyć się pokory, której obecnie najbardziej im brakuje.