Eksperci z USA i Chin proponują czerwone linie dla militarnej AI. Gorąca linia budzi wątpliwości
Melanie Sisson z Brookings Institution i Tianjiao Jiang z Uniwersytetu Fudan opublikowały zestaw propozycji ograniczeń dla militarnej sztucznej inteligencji. Publikacja ukazała się przed planowanym na 24 września spotkaniem Donalda Trumpa z Xi Jinpingiem, ale nie jest stanowiskiem żadnego z rządów.
Propozycje wyznaczają trzy czerwone linie. Żaden system AI nie może samodzielnie wystrzelić broni jądrowej ani zaatakować systemów dowodzenia i kontroli nuklearnej. Ludzie mają też zachować wyłączną kontrolę nad cyberatakami prowadzonymi przez AI na strategiczną infrastrukturę. Warunkiem, bez którego te zasady mogą okazać się niewykonalne, jest wspólna definicja „ludzkiej kontroli” — na razie obie strony mogą rozumieć ją inaczej.
Jiang dodaje do tego jeszcze jeden postulat: bezpośrednią linię do wyjaśniania incydentów z udziałem AI. Chodzi o sytuacje, w których automatyczny system obronny zareaguje na podejrzaną aktywność, a druga strona odczyta to jako atak. Gorąca linia pozwoliłaby szybko wyjaśnić, że incydent był przypadkowy, zanim eskalacja wymknie się spod kontroli.
Carla Freeman z Johns Hopkins University wątpi, czy taki kanał zadziała w kryzysie. Przypomina 2023 rok i kryzys wokół chińskiego balonu rozpoznawczego: Pekin nie odebrał wtedy telefonu z Waszyngtonu. Kanał kontaktu istniał, ale nie został użyty.
Propozycje nawiązują do deklaracji, którą w listopadzie 2024 roku potwierdzili Joe Biden i Xi Jinping — obaj przyznali, że decyzja o użyciu broni jądrowej powinna pozostać w rękach ludzi. To jednak nie pierwszy taki apel. Już w 2021 roku Narodowa Komisja Bezpieczeństwa ds. Sztucznej Inteligencji (NSCAI) wzywała do zachowania ludzkiej kontroli nad bronią jądrową. Wiążących mechanizmów do dziś nie ma, a propozycje Sisson i Jiang są kolejnym apelem, nie regulacją.
