Koniec ery cyfrowej wyroczni: MIT uczy SI pokory

Sztuczna inteligencja w medycynie cierpi na patologiczną pewność siebie. Kiedy lekarz na oddziale intensywnej terapii konfrontuje swoją intuicję z werdyktem algorytmu, statystyka jest bezlitosna: człowiek niemal zawsze ustępuje maszynie, nawet jeśli ta rażąco się myli. Zespół z MIT pod kierunkiem Leo Anthony’ego Celiego postanowił rozbić ten toksyczny model „cyfrowej wyroczni”.

Pokora zaprogramowana w kodzie

Problem nie leży w braku danych, ale w ich interpretacji. Obecne systemy SI są trenowane na cyfrowej dokumentacji medycznej, która nigdy nie była projektowana pod kątem uczenia maszynowego. Efekt? Algorytmy ignorują kontekst społeczny, brak dostępu do opieki w regionach wiejskich czy ukryte błędy systemowe, generując diagnozy z siłą religijnego dogmatu.

Rozwiązaniem ma być pokorna sztuczna inteligencja.

Badacze opracowali framework, który zmienia rolę SI z arbitra na asystenta. Centralnym punktem systemu jest moduł Epistemic Virtue Score – matematyczny mechanizm samoświadomości, który ocenia, na ile pewna jest dana predykcja w oparciu o jakość i kompletność dostępnych dowodów.

Jak to działa w praktyce?

• System analizuje dane pacjenta i generuje wstępną diagnozę.
• Równolegle oblicza poziom własnej niepewności.
• Jeśli wynik jest wątpliwy, SI nie podaje autorytarnej odpowiedzi, lecz prosi o dodatkowe badania lub konsultację specjalistyczną.
• Model sugeruje brakujące punkty w historii choroby, zamiast „zgadywać” brakujące ogniwa.

To radykalne odejście od dotychczasowej logiki Silicon Valley, gdzie metryką sukcesu była szybkość i bezdyskusyjność odpowiedzi.

Pułapka danych i cyfrowe wykluczenie

Celi i jego zespół z MIT Critical Data zwracają uwagę na jeszcze jeden krytyczny aspekt: uprzedzenia zakodowane w bazach danych. Większość modeli korzysta z publicznych zbiorów z USA, co automatycznie wyklucza specyfikę innych populacji i utrwala istniejące nierówności społeczne.

Współpraca zamiast dominacji staje się koniecznością, a nie wyborem projektowym.

Zamiast izolowanych agentów SI, naukowcy stawiają na systemy, które prowokują lekarzy do kreatywnego myślenia i zbiorowej refleksji. SI ma pełnić funkcję „coacha”, który łączy kropki, ale ostateczną decyzję pozostawia człowiekowi, wyraźnie wyznaczając granice własnych kompetencji.

Przyszłość w Beth Israel Lahey Health

Nowy framework nie jest tylko teorią – jest już wdrażany w systemach opartych na bazie MIMIC (Medical Information Mart for Intensive Care). Testy obejmą analizę zdjęć rentgenowskich oraz procesy decyzyjne na szpitalnych oddziałach ratunkowych. Jeśli projekt odniesie sukces, definicja „inteligentnego systemu” zostanie napisana na nowo: nie będzie nim ten, który wie wszystko, ale ten, który wie, czego nie wie.