Samodoskonalenie przez atak: OpenAI automatyzuje łamanie własnych zabezpieczeń

GPT-Red wchodzi do akcji w momencie, gdy OpenAI próbuje ugasić pożary po grudniowym alarmie „Code Red” z 2025 roku. Firma, przyciśnięta przez konkurencję ze strony Anthropic i Google, postawiła na absolutną automatyzację polowania na błędy. Teraz to nie ludzie, a algorytmy decydują o tym, czy dany model jest wystarczająco bezpieczny, by trafić do użytkowników publicznych.

To krytyczny moment dla branży. Odpowiedź na zagrożenia musiała być radykalna, ponieważ pośpiech przy wdrażaniu GPT-5.2 wymusił łatanie dziur w locie. OpenAI przyznaje, że firmy nadal zamierzają częściowo polegać na ludziach nadzorujących bezpieczeństwo, choć tempo rozwoju technologii sprawia, że ludzkie „red teamy” – które poświęciły ponad 1000 godzin na ręczne oznaczanie zapytań – przestają nadążać za kreatywnością botów.

Mechanizm GPT-Red: maszyna kontra maszyna

OpenAI wdrożyło do swojej infrastruktury nowy model wewnętrzny o nazwie GPT-Red. Jego jedyne zadanie to wyszukiwanie luk w bezpieczeństwie flagowych produktów. Narzędzie przeszło trening w trybie uczenia ze wzmocnieniem poprzez symulację gier typu „self-play”. W tym scenariuszu jeden model pełni rolę agresora i próbuje przemycić złośliwe instrukcje, podczas gdy drugi – model obronny – stara się je zablokować. Ta ewolucyjna dynamika pozwala obu stronom na ciągły rozwój, jednak to strona ofensywna wykazuje obecnie miażdżącą przewagę.

Skuteczność wyższa niż u ludzi

Dane z testów są bezlitosne dla tradycyjnych metod weryfikacji. GPT-Red odnotował sukces w 84 proc. scenariuszy testowych, podczas gdy ludzkie zespoły osiągnęły skuteczność na poziomie zaledwie 13 proc. Potencjał modelu wykracza poza teoretyczne rozważania. W jednym z eksperymentów AI zdołała zmanipulować automat sprzedający w biurze OpenAI, zmieniając ceny produktów i anulując zamówienia innych użytkowników. Pokazuje to, jak realne mogą być skutki tzw. prompt injection, jeśli systemy AI zostaną zintegrowane z fizyczną infrastrukturą.

Postęp w cieniu niepewności

Efekty pracy GPT-Red trafiają bezpośrednio do procesu treningowego kolejnych wersji silników. Najnowszy wariant, GPT-5.6 Sol, wykazuje sześciokrotnie mniejszą podatność na bezpośrednie ataki niż modele sprzed zaledwie czterech miesięcy. Warto jednak pamiętać, że nawet starszy model GPT-5.2 zdołał już zredukować poziom halucynacji do 5,8 proc., co OpenAI określiło jako „najlepszy jak dotąd wynik do realnych, profesjonalnych zastosowań”.

Mimo tych postępów eksperci pozostają ostrożni. Nawet przy drastycznym spadku liczby udanych włamań, około 3,8 proc. zaawansowanych ataków wciąż kończy się sukcesem. W skali milionów zapytań generowanych przez boty, ta niewielka statystycznie luka pozostawia szeroko otwarte drzwi dla nadużyć. OpenAI próbuje łatać te luki nowymi systemami monitorowania (safety-focused reasoning monitor), które w modelach o3 i o4-mini potrafią odmówić odpowiedzi na niebezpieczne pytania w 98,7 proc. przypadków. To jednak wciąż wyścig zbrojeń, w którym obrona musi być bezbłędna za każdym razem, a napastnikowi wystarczy jeden sukces.