Bezpieczeństwo AI – czy lotnictwo wyznaczy kierunek?

Współczesne lotnictwo cywilne uchodzi za jeden z najbezpieczniejszych sposobów podróżowania. Ryzyko śmierci w katastrofie lotniczej pasażera amerykańskich linii lotniczych jest obecnie bliskie zeru. Ta imponująca statystyka stanowi efekt dekad intensywnych działań, początkowo reaktywnych, a z czasem proaktywnych, ukierunkowanych na ciągłe zwiększanie bezpieczeństwa. Ale czy na tej bogatej historii może skorzystać inna, nowa i szybko rozwijająca się dziedzina – sztuczna inteligencja?

Od pionierskich lotów do regulacji

Początki lotnictwa były burzliwe. Już w dniu pierwszego udanego lotu braci Wright doszło do wypadku, a pierwsza ofiara śmiertelna technologii lotniczej zginęła zaledwie pięć lat później, w 1908 roku. To tragiczne doświadczenie, niestety powtarzające się przez dekady, było jednak motorem do zmian. Każda katastrofa, choć bolesna, stawała się lekcją. Śledczy skrupulatnie odtwarzali przebieg zdarzeń, identyfikując przyczyny i czynniki sprawcze. Na tej podstawie wdrażano nowe procedury i rozwiązania techniczne, uniemożliwiające powtórzenie się podobnych błędów.

Przykładem może być rozwój systemów ostrzegawczych w kokpicie. Jeśli pilot zapomniałby wysunąć podwozie przed lądowaniem, katastrofa była niemal pewna. Dopiero po serii takich incydentów, i niestety wynikających z nich tragedii, opracowano systemy alarmujące załogę o niezabezpieczonym położeniu podwozia. Ten reaktywny mechanizm, choć niezbędny, miał wysoką cenę. Koszt bezpieczeństwa mierzono w ludzkich istnieniach.

Ewolucja w stronę proaktywności i predykcji

Przełom nastąpił w XX wieku, kiedy to branża lotnicza zaczęła się organizować i standaryzować swoje operacje. Kluczowym momentem było powołanie w 1938 roku Civil Aeronautics Authority, poprzednika dzisiejszej Federal Aviation Administration (FAA). W jej ramach powstała Air Safety Board, która z czasem doprowadziła do zmiany paradygmatu bezpieczeństwa – z reaktywnego na proaktywny, a ostatecznie predykcyjny.

W 1997 roku powołano Commercial Aviation Safety Team (CAST), zrzeszające przedstawicieli przemysłu, związków zawodowych i agencji rządowych, takich jak FAA i NASA. Jej głównym celem było odejście od analizy wypadków po fakcie i skupienie się na identyfikowaniu zagrożeń, zanim te doprowadzą do katastrof. Kluczowym założeniem CAST było zaniechanie konkurencji w kwestii bezpieczeństwa. Dane dotyczące potencjalnych zagrożeń miały być otwarcie udostępniane przez wszystkich uczestników rynku, co rzadko zdarza się w innych, wysoce konkurencyjnych branżach.

Dane jako fundament bezpieczeństwa

Transformacja w stronę bezpieczeństwa predykcyjnego była możliwa dzięki wykorzystaniu danych. Miliony lotów każdego dnia generują ogromne ilości informacji, które są skrupulatnie rejestrowane. Rejestratory danych lotu, pierwotnie służące do badania wypadków, zaczęto wykorzystywać do bieżącej analizy każdego lotu. Analitycy bezpieczeństwa, przeglądając te dane, są w stanie wykrywać niepokojące trendy, takie jak zbyt duża prędkość lądowania czy nieprawidłowe podejście do pasa, zanim te doprowadzą do poważnego zdarzenia. Co więcej, w branży lotniczej wprowadzono anonimowe i bezkarne systemy zgłaszania incydentów, pozwalające każdemu pracownikowi zgłaszać problemy bez obawy o konsekwencje. Taka otwartość jest krytyczna dla pozyskiwania pełnego obrazu potencjalnych zagrożeń.

Lekcje dla sztucznej inteligencji

Sztuczna inteligencja, podobnie jak lotnictwo w początkach swego istnienia, jest technologią transformacyjną, która szybko przenika do wielu dziedzin życia. Od autonomicznej jazdy, przez systemy decyzyjne w sądownictwie, po ocenę zdolności kredytowej – AI ma rosnący wpływ. Niestety, podobnie jak wczesne samoloty, systemy AI nie są wolne od błędów, a ich konsekwencje bywają poważne, a nawet tragiczne.

Obecnie większość firm z branży AI wdraża własne, indywidualne środki bezpieczeństwa. Działania te często przyjmują charakter reaktywny – błąd zostaje wykryty po fakcie, a dopiero potem podejmowane są kroki naprawcze. To przypomina wczesne lata lotnictwa, gdzie bezpieczeństwo poprawiano metodą prób i błędów, płacąc za to wysoką cenę.

Powstaje zatem pytanie: czy branża AI nie powinna pójść śladem lotnictwa i stworzyć własny odpowiednik Commercial Aviation Safety Team? Grupa złożona z przedstawicieli firm technologicznych, regulatorów, środowisk akademickich i innych zainteresowanych stron, mogłaby skupić się na proaktywnym przewidywaniu zagrożeń. Takie ciało mogłoby opracować ujednolicone procedury zgłaszania błędów, zbierania i analizowania danych z systemów AI – podobnie jak dzieje się to w lotnictwie. Dodatkowo, wyobraźmy sobie, że każde narzędzie AI miałoby przycisk umożliwiający użytkownikowi zgłoszenie halucynacji lub niebezpiecznego działania, nie tylko do konkretnej firmy, ale także do niezależnej organizacji dbającej o bezpieczeństwo AI.

Choć takie podejście nie stanowiłoby panaceum na wszystkie problemy, przyjęcie lekcji z branży lotniczej – zwłaszcza w kwestiach współpracy i wymiany danych – mogłoby znacząco przyczynić się do zwiększenia bezpieczeństwa sztucznej inteligencji dla wszystkich użytkowników.