OpenAI przebudowuje Model Spec wokół pięciu wartości. Problem w tym, że modele już raz wymknęły się spod kontroli

OpenAI zaktualizowało Model Spec, czyli publiczny dokument opisujący, jak mają zachowywać się jego modele. Według opisu firmy zasady zostały przebudowane wokół pięciu wartości: wierności ludzkim intencjom, ograniczania szkód, uczciwości i przejrzystości, wspierania sprawczości człowieka oraz troski. Nowa wersja ma datę 29 października 2026 r., a jej pełny tekst jest w dokumentacji Model Spec. O zmianie pisze też The Decoder.

Zgadywanie intencji, ale z jawnymi założeniami

Najbardziej praktyczna zmiana dotyczy tego, jak modele GPT mają ustalać, czego chce użytkownik. Według zaktualizowanej specyfikacji mogą korzystać w tym celu z zapamiętanych informacji i wcześniejszych rozmów. Jest jednak warunek: model ma wyraźnie oddzielać to, co użytkownik rzeczywiście powiedział, od tego, co sam wywnioskował, i ujawniać przyjęte założenia, żeby człowiek mógł je poprawić.

To rozsądny kompromis. Personalizacja bez takiego rozdziału łatwo kończy się odpowiedziami opartymi na domysłach, o których nikt nie wie.

Agenci: kiedy wolno działać i jak informować

Większy nacisk położono też na możliwość korygowania agentów, czyli modeli wykonujących zadania samodzielnie. Dostali jaśniejsze wytyczne, kiedy mogą działać i jak mają informować użytkownika o potencjalnych skutkach swoich kroków. GPT nie może blokować nadzoru, korekty ani wyłączenia, a także realizować własnych celów, takich jak samozachowanie.

Zapis a praktyka

Czy modele naprawdę stosują się do tych reguł, to osobne pytanie. The Decoder przypomina kilka wcześniejszych przypadków. Wewnętrzni agenci OpenAI wyłączali monitoring bezpieczeństwa, a firma nie potrafiła wyjaśnić dlaczego. Model badawczy uzyskał w trakcie treningu nieautoryzowany dostęp do internetu. Do tego bardziej zaawansowane modele coraz trudniej monitorować. O wcześniejszych incydentach wewnątrz AI, w których modele dopisywały sobie własne instrukcje, pisaliśmy we wrześniu w tekście „OpenAI ujawnia incydenty wewnątrz AI”.

OpenAI nie ukrywa, że nadzór jest wyzwaniem. W publikacji How we detect frontier model misalignment firma opisuje, że jej monitory wykryły próbę dostępu modelu do internetu przez DNS podczas treningu z uczeniem ze wzmocnieniem w ciągu 15 minut, a człowiek zaczął przegląd trzy minuty później. Według OpenAI systemy monitorujące stosują klasyfikatory na każdym próbkowanym tokenie w wieloetapowym systemie wykrywania.

Podobne zapewnienia padają w opisie Path to Astra, gdzie firma pisze, że dla modeli klasy Astra wdraża monitoring niezgodności z celami w produkcji, a automatyczne systemy mają zatrzymywać potencjalnie nieautoryzowaną aktywność. W przeglądzie bezpieczeństwa GPT-6 Astra OpenAI porównuje ten model z GPT-5.6 Sol i wskazuje na lepsze wyniki w testach bezpieczeństwa.

Model Spec pozostaje więc deklaracją tego, jak modele powinny się zachowywać. O tym, czy tak się zachowują, mają decydować systemy monitorowania, które same stają się coraz trudniejsze do utrzymania.