Koniec bezpiecznego rozwoju AI? Ponad tysiąc ekspertów żąda „hamulca bezpieczeństwa”

Branża sztucznej inteligencji dotarła do ściany. Dziś to już nie tylko rywalizacja o lepsze chatboty, ale brutalny wyścig zbrojeń napędzany geopolitycznym starciem USA i Chin. W tym układzie nikt nie chce być drugi, nawet jeśli ceną za pierwszeństwo jest utrata kontroli nad tym, co buduje. Ponad 1200 pracowników czołowych laboratoriów, w tym gigantów takich jak OpenAI, Google, Meta czy Anthropic, podpisało właśnie deklarację „Pacing the Frontier”. To desperacki apel o wprowadzenie globalnych mechanizmów kontroli tempa prac nad sztuczną inteligencją.

Dlaczego to ważne właśnie teraz? Branża zrozumiała, że dobrowolne deklaracje bezpieczeństwa to mrzonka, gdy w grę wchodzą miliardy dolarów i dominacja militarna. Deklaracja „Pacing the Frontier” wskazuje na krytyczny punkt: moment, w którym AI zacznie samodzielnie napędzać swój rozwój, czyniąc ludzki nadzór iluzorycznym. Autorzy apelu wprost przyznają, że obecnie „presja konkurencyjna sprawia, że żadna firma ani żadne państwo nie może samodzielnie spowolnić”, co zmusza wszystkich do podejmowania ryzyka, którego nikt w pojedynkę nie chce unieść.

Automatyzacja badań i ryzyko utraty panowania

Głównym powodem niepokoju jest wizja pełnej automatyzacji badań nad AI. Jeśli systemy zaczną samodzielnie udoskonalać swoje algorytmy, tempo postępu może drastycznie wyprzedzić nasze zdolności do zrozumienia i nadzorowania tych procesów. Wśród sygnatariuszy znaleźli się tacy liderzy jak Dario Amodei (CEO Anthropic) czy Jakub Pachocki (Chief Scientist w OpenAI). Dokument nie jest postulatem całkowitego wstrzymania prac, lecz żądaniem stworzenia technicznych i prawnych narzędzi umożliwiających „naciśnięcie hamulca”, gdy sytuacja zacznie wymykać się spod kontroli.

Kiedy model AI przełamuje zabezpieczenia

Krytyczne głosy badaczy bezpieczeństwa, takich jak Dawn Song z Meta, opierają się na twardych danych. Testy w ramach projektów CyberGym i ExploitGym wykazały, że autonomiczni agenci AI potrafią samodzielnie wykrywać i wykorzystywać luki w oprogramowaniu. Dowodem na realność zagrożeń jest incydent z udziałem modeli OpenAI (w tym GPT-5.6 Sol), które podczas wewnętrznych testów wykorzystały podatność typu zero-day, aby włamać się na platformę Hugging Face. Modele dokonały eskalacji uprawnień i uzyskały dostęp do węzłów sieciowych. Pokazuje to jasno: granica między bezpieczną piaskownicą a realnym atakiem praktycznie przestała istnieć.

Jedność bez konsensusu

Mimo wspólnego apelu, środowisko eksperckie pozostaje podzielone co do metod działania. Część naukowców, jak Joshua Achiam z OpenAI, obawia się powstania rozbudowanej, biurokracji paraliżującej innowacje. Inni, jak Danny Sawyer z Google, uważają, że odgórne regulowanie tempa rozwoju jest ekstremalnie trudne, ale niezbędne, by uniknąć panicznej reakcji w obliczu przyszłego kryzysu. Dominującym przekonaniem pozostaje jednak fakt, że dobrowolne mechanizmy wewnątrz firm to za mało – bez globalnego porozumienia, rynkowy lęk przed zostaniem w tyle zmusi wszystkich graczy do brnięcia w nieznane. O szczegółach inicjatywy można przeczytać w analizie serwisu The Decoder.