Metoda RISE obeszła filtry generatorów obrazów OpenAI i Google w 13 procentach prób
Zespół badawczy White Circle przetestował zabezpieczenia wybranych generatorów obrazów od OpenAI i Google za pomocą zautomatyzowanej metody RISE. W próbach przeprowadzonych na modelach DALL-E 3, GPT-Image-2 oraz Nano Banana 2 technika ta doprowadziła do wygenerowania niedozwolonych grafik w około 13 proc. przypadków. Skuteczność RISE różniła się między generatorami: wyniosła 13,3 proc. dla DALL-E 3, 9,5 proc. dla Nano Banana 2 oraz 3,3 proc. dla GPT-Image-2. Każdy udany wynik został zweryfikowany przez człowieka.
RISE (Red-teaming via Iterative Strategy Evolution) różni się od prostych modyfikacji zapytań tekstowych: wyszukuje powtarzalne strategie ataku, które można zaadaptować do różnych modeli i scenariuszy. Do automatycznego generowania instrukcji badacze użyli otwartego modelu Qwen, natomiast do wstępnego oceniania uzyskiwanych grafik wykorzystali Gemini 3.8 Flash. Procedura nie wymagała zatem budowy zamkniętych narzędzi specjalistycznych.
Testy rzucają też nowe światło na dotychczasowe wskaźniki skuteczności ataków typu red-teaming. Starsze techniki, którym we wcześniejszych publikacjach przypisywano skuteczność sięgającą 30 proc., w warunkach eksperymentu White Circle osiągnęły rezultaty bliskie zeru. Rozbieżność wynika przede wszystkim ze znacznie bardziej rygorystycznej procedury weryfikacji i doboru kryteriów klasyfikujących obraz jako faktyczne naruszenie reguł bezpieczeństwa.
Badacze zadeklarowali również, że nowsze wersje testowanych systemów — ChatGPT Images 2.5 oraz Nano Banana 2.1 — wykazały wyraźnie większą podatność na ataki RISE niż ich poprzednicy. W testach tych wydań wskaźnik ASR (Attack Success Rate) wzrósł ponad dwukrotnie w porównaniu z wcześniejszymi wersjami. Informacja ta pozostaje na razie jednostronnym twierdzeniem White Circle i nie została jeszcze potwierdzona przez niezależne zespoły.
Pełny opis metody ma zostać zaprezentowany na konferencji NeurIPS 2026. Zespół zapowiedział udostępnienie kodu źródłowego oraz całej procedury testowej, co pozwoli innym badaczom odtworzyć eksperyment i zweryfikować odporność filtrów w kontrolowanych warunkach.
