Koniec ery czarnych skrzynek. Motional i MIT otwierają logikę autonomicznych aut
Samochód autonomiczny gwałtownie hamuje na pustej prostej. Inżynier siedzący na fotelu pasażera drapie się po głowie, a systemy diagnostyczne wypluwają tysiące niezrozumiałych parametrów. To klasyczny problem „czarnej skrzynki” w robotyce, który właśnie doczekał się rozwiązania. Zespół badawczy z firmy Motional, pod kierownictwem CEO Laury Major, we współpracy z laboratorium CSAIL na MIT, zaprezentował na łamach „Nature” architekturę Concept-Wrapper Network (CW-Net). To narzędzie, które pozwala zajrzeć w głąb cyfrowego mózgu pojazdu dokładnie w momencie podejmowania decyzji.
Dlaczego to ważne teraz
Obecne modele AI stosowane w transporcie osiągają około 95 procent skuteczności, jednak to brakujące 5 procent decyduje o tym, czy kiedykolwiek pozbędziemy się kierowców z kabin. Rozwiązanie CW-Net odwzorowuje wewnętrzną logikę maszyny na ludzkie pojęcia, co w dobie rosnącej presji regulacyjnej i walki o zaufanie społeczne staje się warunkiem koniecznym komercjalizacji robotaksówek. Bez realnej interpretowalności każdy błąd AI pozostaje zagadką, a zaufanie do systemów autonomicznych stoi w miejscu.
Interpretowalność zamiast spekulacji
Tradycyjne podejście do wyjaśnialnej sztucznej inteligencji często opierało się na generowaniu opisów w języku naturalnym po fakcie. Takie rozwiązanie bywa jednak zwodnicze – AI może stworzyć brzmiące wiarygodnie, lecz zupełnie nieprawdziwe uzasadnienie swojego błędu. CW-Net działa inaczej. System wymusza, by ostateczne decyzje o hamowaniu czy skręcie były bezpośrednio powiązane z konkretnymi pojęciami, takimi jak „zbliżanie się do zatrzymanego pojazdu” czy „bliskość rowerzysty”. Dzięki temu operator widzi na kokpicie konkretną przyczynę manewru, a nie szum informacyjny sieci neuronowej.
Lekcja z ulic Las Vegas
Testy przeprowadzone na drogach publicznych w Las Vegas oraz na torach zamkniętych obnażyły słabości, które bez CW-Net pozostałyby ukryte. W jednym z przypadków pojazd notorycznie zatrzymywał się przy pachołku drogowym. Intuicja podpowiadała, że to pachołek jest przeszkodą, jednak analiza systemu wykazała „halucynację” – AI widziało w tym miejscu nieistniejący, zatrzymany samochód, co wynikało z błędów w danych treningowych. W innym incydencie system ujawnił, że auto wyhamowało przed rowerzystą nie dzięki głównemu modułowi planowania, lecz dzięki zapasowemu systemowi bezpieczeństwa. Taka wiedza jest kluczowa dla inżynierów szukających luk w kodzie.
Cena przejrzystości
Wprowadzenie warstwy interpretowalności zazwyczaj wiąże się z obniżeniem wydajności obliczeniowej. W przypadku CW-Net spadek efektywności jazdy w porównaniu do najlepszych, „zamkniętych” algorytmów wyniósł jednak mniej niż jeden procent. To cena marginalna w zamian za wgląd w to, co dzieje się wewnątrz układów scalonych. Według publikacji w serwisie AI News, badacze z MIT i Motional zbudowali system, który pozwala autonomicznym pojazdom wyjaśniać swoje decyzje w czasie rzeczywistym, co bezpośrednio odnosi się do problemu nieprzejrzystości sztucznej inteligencji. W obliczu nowych przepisów narzędzia tego typu mogą wkrótce stać się standardem nie tylko w transporcie, ale także w chirurgii robotycznej czy dronach autonomicznych.
