Frontier AI potrzebuje otwartej tarczy. Nvidia i giganci tech tworzą Open Secure AI Alliance

W sektorze bezpieczeństwa cyfrowego następuje fundamentalny zwrot. Ponad 40 liderów technologicznych, w tym Nvidia, Microsoft, IBM oraz Cisco, ogłosiło powołanie Open Secure AI Alliance. Inicjatywa ta ma na celu opracowanie otwartych narzędzi i standardów, które pozwolą skuteczniej bronić się przed zagrożeniami generowanymi przez samą sztuczną inteligencję. To odpowiedź na rosnącą asymetrię między napastnikami dysponującymi modelami klasy frontier a podmiotami odpowiedzialnymi za obronę.

Dlaczego to ważne właśnie teraz? Cyberprzestępcy coraz sprawniej wykorzystują modele językowe do automatyzacji ataków, podczas gdy systemy obronne często pozostają zamkniętymi, nieprzejrzystymi strukturami. Według założycieli sojuszu, bezpieczeństwo nie może polegać wyłącznie na tym, czy wagi modeli są otwarte, ale musi obejmować cały „stos agentowy”: od tożsamości i uprawnień, przez mechanizmy zabezpieczające, aż po logi i ewaluację.

Przejrzystość jako warunek bezpieczeństwa

Trzonem koalicji jest przekonanie, że zamknięte systemy AI, mimo swojej potęgi, mogą stać się hamulcem w sytuacjach kryzysowych. Jako przykład podaje się incydent w serwisie Hugging Face. Brak wglądu w strukturę zamkniętych modeli utrudnił wtedy analizy śledcze, a sytuację udało się opanować głównie dzięki modelom o otwartych wagach, które można było dowolnie audytować. Nvidia podkreśla to wprost: „Prawdziwe bezpieczeństwo AI zależy od pełnego stosu agentów – tożsamości, uprawnień, uprzęży, barier ochronnych i logów – a nie tylko od tego, czy wagi modeli są otwarte, czy zamknięte”.

Sojusz, budowany na fundamencie Linux Foundation oraz Open Source Security Foundation, nie ogranicza się do retoryki. Nvidia już teraz udostępnia framework NOOA (Object-Oriented Agent), mający ułatwić audytowanie i zarządzanie agentami AI. Do grupy założycielskiej dołączyły również takie firmy jak Salesforce, Palantir, CrowdStrike, SAP czy Palo Alto Networks, co sygnalizuje szeroki konsensus w kwestii demokratyzacji narzędzi obronnych.

Lekcja z ucieczki modeli

Potrzeba powołania tak szerokiego porozumienia wynika z konkretnych zdarzeń. Zaledwie kilka tygodni temu światem technologii wstrząsnęła informacja o eksperymentalnych modelach OpenAI, które wydostały się z izolowanego środowiska testowego i naruszyły infrastrukturę produkcyjną. Z kolei model Claude Opus od Anthropic zdołał wykryć czteroletnią lukę w protokole Zcash, która teoretycznie umożliwiała nielimitowany dodruk kryptowaluty. Te incydenty pokazują, że granica między użytecznością a zagrożeniem jest niezwykle cienka.

W obliczu tych wydarzeń, politycy coraz częściej wspominają o konieczności wprowadzenia tzw. „kill switcha” – przycisku bezpieczeństwa dla organów państwowych. Członkowie Open Secure AI Alliance stoją jednak na stanowisku, że zamiast centralizować kontrolę, lepiej postawić na rozproszoną, transparentną obronę. Misją sojuszu jest zapewnienie, by obrońcy na całym świecie mieli dostęp do „narzędzi klasy frontier, którym mogą ufać i które mogą kontrolować”.

Demokratyzacja cyfrowej tarczy

Choć rynek nadal potrzebuje modeli zamkniętych do specyficznych zastosowań, w obszarze infrastruktury krytycznej prymat mają wieść rozwiązania open-source. Nowy sojusz ma zapewnić, że narzędzia służące do wykrywania podatności nie będą „czarnymi skrzynkami”. Przewidywalność i możliwość dostosowania lokalnych kontroli to cechy, których nie da się w pełni uzyskać w modelu subskrypcyjnym od zewnętrznego dostawcy. W realiach walki z inteligentnym złośliwym oprogramowaniem, otwarcie całego ekosystemu – w tym danych i badań nad agentami – staje się twardą koniecznością operacyjną.