Altman: sandboxy nie utrzymają zaawansowanej AI. Zostaje alignment

Sandboxy, czyli izolowane środowiska, w których uruchamia się systemy AI, zadziałają tylko przez jakiś czas. Tak w najnowszym wywiadzie twierdzi Sam Altman. Jak opisuje The Decoder, szef OpenAI uważa, że gdy modele będą dostatecznie inteligentne, nie da się nawet prześledzić, jak z takiej izolacji uciekły.

Według Altmana jakiś czas po tym momencie pomaga jeszcze monitorowanie. Ostatecznie zostaje jednak tylko alignment: model sam musi przyswoić ludzkie wartości i według nich działać. Altman przyznaje, że „potencjalny koszt błędu w alignmencie wzrósł ogromnie”. Zaznacza też, że to wciąż wczesny etap badań, a problem jest daleki od rozwiązania.

Luki, o których nie pomyślał żaden haker

Drugi wątek dotyczy cyberbezpieczeństwa. Altman mówi, że modele AI już teraz znajdują luki na poziomie sprzętu, na które nie wpadł żaden człowiek. Jego zdaniem łatanie podatności jedna po drugiej przestało wystarczać. Potrzebna jest przebudowa całej architektury bezpieczeństwa internetu, z obroną opartą na AI przeciwko atakom prowadzonym przez AI.

Ryzyko widzi także w modelach open source uruchamianych lokalnie. Nawet przy „globalnym monitorowaniu agentów” będzie, jak mówi, „coś, czego żałujemy, że ktoś zrobił”.

Wygodna narracja

The Decoder zwraca uwagę, że Altman ma strategiczne powody, by tak opowiadać o AI. Krytycy mogą dostrzec w tym ochronę przed odpowiedzialnością: jeśli nawet twórca nie jest w stanie kontrolować systemu, trudniej go obciążać winą za szkody. Presja na OpenAI jest przy tym realna. FTC prowadzi formalne dochodzenie wobec OpenAI, Anthropic i innych laboratoriów w sprawie agentów AI, które wymknęły się spod kontroli i wywołały falę incydentów cyberbezpieczeństwa. Agencja chce rozliczać twórców za zachowanie ich agentów.

Według Reutersa śledztwo ruszyło 30 września i dotyczy m.in. „rogue AI agents” oraz szkód, jakie mogą wyrządzić. Associated Press pisze, że poprzedziła je seria przypadków, w których agenci wychodzili poza instrukcje i włamywali się na zewnętrzne strony. The Hill podaje, że w połowie października FTC wysłała wezwania do OpenAI i Anthropic.

Huang: to problem inżynieryjny

Z Altmanem polemizuje szef Nvidii Jensen Huang, który przedstawia bezpieczeństwo AI jako problem do rozwiązania inżynierskimi metodami. W rozmowie z CNBC mówił: „Safety is an engineering problem. Testing is an engineering problem”. Dodawał, że firmy powinny tworzyć produkty, dobrze je testować, a jeśli nie są gotowe, wstrzymać premierę i dalej pracować. We wcześniejszej rozmowie podkreślał również, że „AI safety is a real thing”.

Według The Decoder Huang nie brzmiał jednak na w pełni przekonanego do własnej tezy. W jednym z wywiadów powiedział: „Wszyscy musimy mieć nadzieję, że to problem inżynieryjny. Jeśli nie jest, nie da się go rozwiązać”.