GPT-6 Astra: Bezpieczniejszy, ale wciąż podatny na ataki ukryte w danych
OpenAI wypuściło GPT-6 Astra. Model ma zamknąć usta krytykom wytykającym sztucznej inteligencji brak rzetelności i podatność na proste manipulacje. Choć Astra radzi sobie wyraźnie lepiej niż starszy GPT-5.6 Sol, granica między stabilnym narzędziem a niebezpiecznym agentem wciąż pozostaje niepokojąco cienka. Nowy model trafia na rynek w momencie, gdy zaufanie do autonomii maszyn staje się kwestią krytyczną dla bezpieczeństwa firmowej infrastruktury.
Dlaczego to ważne właśnie teraz
Obecnie coraz chętniej przekazujemy agentom AI uprawnienia do pisania kodu i zarządzania systemami. Według ekspertów z Gray Swan, problem jest poważny: „AI Agent Can Be Compromised. You’d Never Know”. Oznacza to, że model może zostać przejęty przez napastnika w sposób całkowicie niewidoczny dla użytkownika, co przy rosnącej skali wdrożeń w korporacjach staje się tykającą bombą.
Skokowa poprawa wiarygodności
Największym sukcesem inżynierów OpenAI wydaje się ograniczenie halucynacji. Astra rzadziej mija się z prawdą w zadaniach o niskiej latencji, co potwierdzają testy na danych od użytkowników, którzy wcześniej wskazywali błędy ChatGPT. Mimo to, optymalizacja fundamentów modelu to tylko jedna strona medalu.
Forteca z tylnym wejściem
W starciu z bezpośrednimi atakami typu prompt injection, Astra wydaje się niemal niezdobyta. Dzięki systemowi GPT-Red, skuteczność blokowania manipulacji wynosi 99,99%. Jednak determinacja napastnika wciąż popłaca. W wielorundowych rozmowach (jailbreak) obrona modelu spada do 67%. To oznacza, że co trzecia uporczywa próba wyłudzenia informacji o niebezpiecznych technologiach kończy się sukcesem.
Słaby punkt: dane, które stają się rozkazem
Prawdziwym wyzwaniem pozostaje Indirect Prompt Injection (IPI) – sytuacja, w której złośliwe instrukcje są ukryte w tekście, który AI ma jedynie przeanalizować. Badania pokazują, że Astra zawodzi w 8,5% takich przypadków. Choć to postęp względem 27% notowanych przez Sol, model OpenAI wciąż odstaje od konkurencji. Claude Opus 5 bez dodatkowych wzmocnień notuje błędy na poziomie 3,70%, a przy zastosowaniu odpowiednich zabezpieczeń potrafi osiągnąć nawet 0% skuteczności ataków.
Wyzwania dla wdrożeń korporacyjnych
Dla działów bezpieczeństwa te statystyki to sygnał alarmowy. Skuteczny atak w co dwunastym scenariuszu (Astra) to ryzyko, które przy dużej skali operacji staje się niemal pewnym incydentem. Anthropic w swojej dokumentacji radzi wprost: „Put untrusted content only in tool results”. OpenAI poczyniło krok naprzód, ale dopóki modele nie nauczą się bezbłędnie oddzielać danych od instrukcji sterujących, ich pełna autonomia pozostanie wizją obarczoną wysokim kosztem ryzyka.
