Medyczna ruletka w oknie czatu: AI myli się w połowie przypadków, ale brzmi jak ekspert

Autorytet zbudowany na kłamstwie

Chatboty nie są lekarzami, ani nawet encyklopediami. To zaawansowane maszyny do przewidywania kolejnych słów, które w starciu z pytaniami o raka, szczepionki czy dietę zachowują się jak patologiczni kłamcy z dyplomem prestiżowej uczelni.

Badanie opublikowane w BMJ Open przez naukowców z UCLA i University of Alberta nie pozostawia złudzeń: 49,6% odpowiedzi udzielonych przez pięć wiodących modeli AI oceniono jako problematyczne. Co piąta porada była wysoce szkodliwa, mogąc realnie skierować pacjenta na drogę niebezpiecznego, alternatywnego leczenia zamiast profesjonalnej terapii.

Grok na dnie zestawienia

Najgorzej w teście poradził sobie projekt Elona Muska. Grok wygenerował aż 58% błędnych odpowiedzi. Naukowcy wskazują bezpośredni powód: model karmi się danymi z platformy X, gdzie dezinformacja medyczna rozprzestrzenia się szybciej niż rzetelna wiedza. To cyfrowy dowód na zasadę garbage in, garbage out (śmieci wchodzą, śmieci wychodzą).

Referencje z krainy fantazji

Znasz to uczucie, gdy AI podaje linki do badań naukowych, które wyglądają wiarygodnie? To pułapka. W badaniu żaden chatbot nie wyprodukował w pełni poprawnej listy źródeł.

• Mediana kompletności referencji wyniosła zaledwie 40%.
• Modele masowo zmyślają nazwiska autorów i tytuły czasopism.
• DeepSeek otwarcie przyznał, że jego bibliografia to statystyczna symulacja, a nie rzeczywiste dane.

Systemy AI nie analizują dowodów. One po prostu wiedzą, że po słowie „Journal” powinno wystąpić „of Medicine”, więc je dopisują, tworząc iluzję profesjonalizmu.

Bariera, która zabija zrozumienie

Problem jest głębszy niż same błędy merytoryczne. Chodzi o formę podania informacji. Wszystkie przetestowane modele pisały językiem na poziomie studenta ostatniego roku studiów, co drastycznie odbiega od zaleceń organizacji zdrowia.

To klasyczny trik erystyczny przełożony na kod: zarzuć odbiorcę specjalistycznym słownictwem, aby ukryć brak sensu.

Gdzie AI gubi się najbardziej?

Podczas gdy chatboty radzą sobie całkiem nieźle z onkologią (dzięki dużej ilości uporządkowanych danych sieciowych), żywienie i wydajność sportowa to kompletna katastrofa statystyczna. Jeśli pytasz bota o dietę karniwora lub surowe mleko, otrzymujesz koktajl faktów i groźnych mitów.

Największe zagrożenie? Te systemy niemal nigdy nie mówią: „Nie wiem”. Zamiast milczenia, wybierają pewność siebie, która w medycynie bywa zabójcza.