Czerwone linie dla algorytmów. Eksperci z USA i Chin chcą zakazu autonomii AI w kwestiach nuklearnych

Wspólna grupa ekspertów z amerykańskiego Brookings Institution oraz chińskiego Uniwersytetu Fudan opublikowała raport wzywający Waszyngton i Pekin do pilnego ustalenia „czerwonych linii” w obszarze wojskowej sztucznej inteligencji. Głównym postulatem jest wprowadzenie sztywnego zakazu: tylko człowiek może autoryzować użycie broni jądrowej lub decydować o ataku na systemy dowodzenia nuklearnego (NC3). Algorytmy nie mogą podejmować takich decyzji samodzielnie.

Autorzy dokumentu argumentują, że szybkość działania i brak przewidywalności AI mogą doprowadzić do niekontrolowanej eskalacji konfliktu, zanim ludzie zdążą zareagować. Systemy NC3, odpowiedzialne za wykrywanie zagrożeń i przekazywanie rozkazów startowych, są krytycznym elementem globalnego bezpieczeństwa. Ich zdaniem AI nie powinna mieć możliwości autonomicznego inicjowania cyberataków ani uderzeń kinetycznych wymierzonych w tę infrastrukturę.

Ryzyko eskalacji w milisekundach

Obawy te znajdują potwierdzenie w wynikach symulacji przeprowadzonych w lutym bieżącego roku. Badacze przetestowali modele językowe wiodących firm, takich jak OpenAI, Google i Anthropic, w scenariuszach gier wojennych. Wyniki były alarmujące: w 95% przypadków algorytmy zdecydowały się na użycie broni nuklearnej. Choć specjaliści zaznaczają, że struktura tych testów mogła faworyzować radykalne rozwiązania i nie odzwierciedla w pełni rzeczywistych mechanizmów, statystyka ta służy jako mocne ostrzeżenie przed skłonnościami AI do eskalacji.

Aby zminimalizować ryzyko, raport sugeruje wdrożenie konkretnych środków zapobiegawczych:

• Wypracowanie wspólnej, dwustronnej definicji „meaningful human control” (istotnej kontroli ludzkiej) nad systemami uzbrojenia.
• Ustanowienie wojskowej gorącej linii dedykowanej wyłącznie incydentom związanym z działaniem sztucznej inteligencji.
• Przyjęcie wąskich zabezpieczeń nuklearnych, które nie wymagałyby od obu państw pełnego porozumienia w spornych kwestiach cyberbezpieczeństwa czy gospodarki.

Konflikt na linii rząd–przemysł

Postulaty ekspertów zderzają się jednak z trudną rzeczywistością polityczną i oporem sektora technologicznego. Przykładem jest spór Pentagonu z firmą Anthropic. Producent modelu Claude odmówił amerykańskiemu resortowi obrony zniesienia ograniczeń bezpieczeństwa, które blokowały wykorzystanie ich technologii do tworzenia broni autonomicznej i inwigilacji. W odpowiedzi Pentagon oznaczył Anthropic jako „zagrożenie dla łańcucha dostaw”, co ostatecznie zostało zablokowane przez sąd federalny.

Sytuacja ta pokazuje, że wdrażanie jakichkolwiek ograniczeń w wojskowym zastosowaniu AI napotyka na opór zarówno ze strony administracji dążącej do przewagi technologicznej, jak i firm broniących swoich zasad etycznych. Autorzy raportu Brookings–Fudan podkreślają jednak, że w kwestii broni nuklearnej margines błędu nie istnieje, a wprowadzenie „ludzkiego bezpiecznika” jest jedynym sposobem na uniknięcie przypadkowej katastrofy o skali globalnej.