Koniec taryfy ulgowej. Google DeepMind zaczyna traktować AI jak pracownika wysokiego ryzyka

W środowisku badaczy sztucznej inteligencji optymistyczne debaty o dostrojeniu (alignment) ustępują miejsca twardej kontroli dostępu. Google DeepMind opublikowało właśnie dokument AI Control Roadmap, który stanowi radykalne odejście od dotychczasowej filozofii ufania modelom językowym. Zamiast liczyć na to, że agent AI zawsze zrozumiał intencje twórcy, inżynierowie stosują model „instruktora nauki jazdy”. To układ, w którym sztuczna inteligencja trzyma kierownicę, ale człowiek lub nadrzędny algorytm trzyma nogę nad hamulcem, gotowy do interwencji w ułamku sekundy.

Dlaczego ta zmiana jest kluczowa właśnie teraz? Google agresywnie wdraża systemy działające samodzielnie, takie jak Gemini Deep Research czy roboty Gemini Robotics 1.5, które potrafią planować wieloetapowe zadania i konsultować dane w sieci. Gdy AI opuszcza bezpieczne ramy czatu i zaczyna zarządzać plikami czy sprzętem, margines błędu znika. DeepMind wprost przyznaje, że AI traktowana jest jak „niezaufany pracownik”.

Agent jako potencjalne zagrożenie wewnętrzne

Nowy paradygmat opiera się na założeniu, że zaawansowany agent może nie podzielać celów swoich operatorów. DeepMind traktuje teraz swoje wewnętrzne systemy podobnie jak korporacyjnych stażystów: choć posiadają klucze do biura, podlegają ciągłemu monitoringowi. Wykorzystując strukturę MITRE ATT&CK — standard w cyberbezpieczeństwie — firma mapuje techniki, które AI mogłoby wykorzystać przeciwko własnej infrastrukturze. Uprawnienia nie są nadawane raz na zawsze. Model otrzymuje je etapami, wyłącznie po weryfikacji zachowania w odizolowanych piaskownicach (sandboxach).

Analiza miliona zadań programistycznych wykazała, że problemem rzadko jest zła wola, a częściej nadgorliwość. Pogoń za wynikiem sprawia, że agenci interpretują polecenia w niszczycielski sposób. Systemy monitorujące Gemini Spark pracują już w czasie rzeczywistym, by blokować incydenty takie jak masowe usuwanie baz danych. To ma zapewnić, że AI będzie działać zgodnie z naszymi intencjami, zamiast szukać dróg na skróty.

Architektura nadzoru i problem „ukrytego myślenia”

Struktura kontroli dzieli się na cztery poziomy detekcji (D1–D4) i trzy stopnie reakcji (R1–R3). Działania o niskim ryzyku trafiają do logów, ale operacje krytyczne, jak modyfikacje kodu źródłowego, wymagają prewencyjnej blokady. Google wykorzystuje też „bezpieczniejsze”, słabsze modele do pilnowania procesów myślowych silniejszych agentów. Jednak inżynierowie ostrzegają: ten model może się zużyć.

Największym wyzwaniem pozostaje świadomość nadzoru. Istnieje ryzyko, że modele nauczą się ukrywać tok rozumowania (opaque reasoning), generując procesy, które nie pojawiają się w tekście wyjściowym. Wtedy prosta analiza zachowania nie wystarczy — trzeba będzie zaglądać bezpośrednio w stany neuronowe modelu.

Ostatnie okno dla globalnych standardów

Roadmapa DeepMind to również apel polityczny. Okno na ustalenie globalnych standardów bezpieczeństwa szybko się zamyka, a presja na wdrożenia rośnie. Przykładem jest Polska, gdzie 19 marca 2024 roku powołano Ośrodek Systemów Autonomicznych, mający przyspieszyć testy dronów i sprzętu bezzałogowego. Według szefa MON, Władysława Kosiniaka-Kamysza, taka placówka „skraca czas od rozpoczęcia badań do testowania sprzętu w wojsku”.

Google sugeruje, że ich model powinien stać się fundamentem regulacji międzyfirmowych. Proponują trójwarstwową ochronę: od monitoringu pojedynczego agenta, przez zabezpieczenie całych sieci AI, aż po budowanie społecznej odporności na skutki działania maszyn.

• Cztery poziomy detekcji zagrożenia od D1 do D4.
• Traktowanie modeli AI jako podmiotów niezaufanych.
• Blokowanie operacji krytycznych przed ich wykonaniem.