Koniec czarnych skrzynek? Polscy badacze otwierają wnętrze Vision Transformerów

Współczesna sztuczna inteligencja, choć imponuje skutecznością w rozpoznawaniu obrazów czy diagnozowaniu chorób, wciąż boryka się z fundamentalnym problemem: brakiem przejrzystości. Systemy te działają często jak nieprzeniknione „czarne skrzynki”, generując wynik bez wyjaśnienia, co dokładnie doprowadziło do konkretnej konkluzji. Przełom w tej dziedzinie przynieśli naukowcy z Uniwersytetu Jagiellońskiego oraz Max Planck Institute for Informatics, opracowując metodę DAVE.

To odkrycie trafia w punkt zwrotny dla rozwoju technologii. W obliczu rosnących wymagań dotyczących bezpieczeństwa w medycynie i transporcie, potrzebujemy narzędzi, które przekształcą „czarne skrzynki” w modele szklane – w pełni interpretowalne i przejrzyste. Precyzja w wskazywaniu fundamentów decyzji AI to już nie tylko ambicja naukowa, ale wymóg regulacyjny i etyczny.

DAVE (Distribution-aware Attribution via ViT Gradient Decomposition) to narzędzie atrybucji zaprojektowane specjalnie dla architektury Vision Transformer (ViT). Jak wyjaśnia dr Adam Wróbel, pierwszy autor publikacji, rozwiązanie to wykorzystuje wiedzę o wewnętrznej architekturze modeli, dzięki czemu „potrafi odfiltrować elementy odpowiedzialne za szum i niestabilność wyjaśnień oraz dokładniej wskazać, które fragmenty obrazu rzeczywiście wpłynęły na decyzję modelu”. Zamiast zaszumionych map ciepła, badacze otrzymują teraz konkretny wgląd w proces decyzyjny algorytmu.

Precyzja zamiast domysłów

Kluczowa innowacja polega na dekompozycji sygnałów wewnętrznych. Dr hab. Bartosz Zieliński, prof. UJ i dyrektor Jagiellońskiego Centrum Sztucznej Inteligencji, podkreśla, że zadaniem metody DAVE jest precyzyjne wskazanie fragmentów obrazu kluczowych dla modelu. W praktyce oznacza to, że jeśli sztuczna inteligencja analizuje zdjęcie rentgenowskie, system wskaże patologiczną zmianę w tkance, zamiast podświetlać przypadkowe cienie czy artefakty samej architektury sieci.

W testach porównawczych metoda DAVE osiąga wyniki lepsze od dotychczasowych standardów rynkowych, niezależnie od tego, czy model był szkolony pod nadzorem człowieka, czy w trybie samonadzorowanym. To stabilność, której brakowało, by AI mogła na dobre zadomowić się w sektorach wysokiego ryzyka.

Z Krakowa na światowe salony

Prestiżowa konferencja International Conference on Machine Learning (ICML) 2026 przypieczętowała sukces polskiego zespołu. Praca otrzymała wyróżnienie „Spotlight”, co oznacza, że trafiła do wąskiego grona 2,2% najbardziej innowacyjnych badań spośród blisko 24 tysięcy zgłoszeń z całego świata. Sukces naukowy szybko wywołał reakcję rynku – o rozwiązanie dopytują już czołowe ośrodki badawcze z Chin i Stanów Zjednoczonych.

Choć obecnie DAVE koncentruje się na obrazie, zespół z Jagiellońskiego Centrum Sztucznej Inteligencji już pracuje nad rozszerzeniem algorytmu na duże modele językowe (LLM) oraz systemy multimodalne. Zaplanowane na lipiec 2026 roku udostępnienie kodu źródłowego może stać się nowym punktem odniesienia dla globalnej społeczności rozwijającej przejrzystą technologię.