Bitwa o cyfrowy „kill switch”: Anthropic odpiera zarzuty Pentagonu o ryzyko sabotażu

Relacje na linii Dolina Krzemowa – Waszyngton weszły w fazę otwartego konfliktu, w którym stawką jest nie tylko zysk, ale i suwerenność militarna w erze algorytmów. Anthropic, jeden z czołowych graczy na rynku sztucznej inteligencji, zdecydowanie zaprzeczył oskarżeniom Pentagonu, jakoby posiadał zdolność do zdalnego manipulowania lub blokowania swoich modeli AI w trakcie operacji wojskowych. Sprawa trafiła do sądu federalnego w San Francisco po tym, jak sekretarz obrony Pete Hegseth oficjalnie wpisał firmę na listę podmiotów stanowiących ryzyko dla łańcucha dostaw.

Architektura braku dostępu

W sercu sporu leży obawa rządu przed tak zwanym „wyłącznikiem bezpieczeństwa” (kill switch). Pentagon argumentuje, że poleganie na technologii komercyjnej w tak krytycznych obszarach jak analiza danych wywiadowczych czy generowanie planów bitewnych, naraża armię na sabotaż. Według urzędników, Anthropic mógłby teoretycznie wyłączyć dostęp do modelu Claude lub wdrożyć złośliwą aktualizację, jeśli kierownictwo firmy uznałoby konkretne działania wojenne za niezgodne ze swoją polityką etyczną.

Thiyagu Ramasamy, odpowiedzialny za sektor publiczny w Anthropic, w aktach sądowych określił te scenariusze jako technicznie niewykonalne. Wyjaśnił, że gdy infrastruktura zostaje zaimplementowana wewnątrz systemów Departamentu Obrony, firma traci nad nią operacyjną kontrolę. „Anthropic nie dysponuje żadnymi tylnymi drzwiami. Nie mamy możliwości zalogowania się do systemów wojskowych, by zmodyfikować działanie modeli w trakcie operacji” – zaznaczył Ramasamy. Co więcej, wszelkie aktualizacje oprogramowania wymagają wyraźnej zgody rządu oraz dostawcy chmury, w tym przypadku Amazon Web Services.

Etyka kontra taktyka

Mimo technicznych zapewnień problem ma podłoże ideologiczne. Negocjacje między laboratoriami AI a resortem obrony załamały się w kluczowym punkcie: kontroli nad finalnym użyciem technologii. Anthropic dążył do wprowadzenia zapisów uniemożliwiających wykorzystanie AI w śmiercionośnych atakach pozbawionych nadzoru człowieka. Chociaż firma deklarowała, że nie rości sobie prawa weta wobec legalnych decyzji taktycznych armii, administracja Trumpa uznała takie ograniczenia za niedopuszczalne ryzyko.

Efektem tej nieufności jest masowy odwrót od narzędzi Anthropic. Nie tylko Pentagon, ale i inne agencje federalne zaczęły rezygnować z modelu Claude, co dla firmy oznacza dotkliwe straty wizerunkowe i finansowe. Anthropic argumentuje w pozwie, że zakaz jest niekonstytucyjny i domaga się jego natychmiastowego wstrzymania.

Pragmatyzm w cieniu sądowej batalii

Obecnie Pentagon wdraża środki zaradcze, aby zminimalizować domniemane zagrożenie. Współpracuje z pośrednikami usług chmurowych, by stworzyć barierę uniemożliwiającą inżynierom Anthropic wprowadzanie jednostronnych zmian w już działających systemach. Rozstrzygnięcie tego sporu, spodziewane pod koniec marca, może wyznaczyć standardy dla całej branży AI, definiując, jak głęboko prywatne korporacje mogą ingerować w autonomię technologiczną nowoczesnej armii.