Automatyzacja ofensywy: Fabraix udostępnia Nyx, autonomicznego agenta do łamania systemów AI
Wdrażanie agentów AI w bezpośrednim kontakcie z klientem to już standard, ale wraz z nim rośnie ryzyko dziur w zabezpieczeniach, o których inżynierowie nie mają pojęcia. Startup Fabraix, wspierany przez prestiżowy akcelerator Y Combinator w ramach naboru S26, otworzył właśnie publiczny dostęp do Nyx. To autonomiczny agent do red-teamingu, który ma jeden cel: znaleźć luki w systemach AI szybciej niż zrobią to cyberprzestępcy.
Dlaczego to ważne właśnie teraz? Tradycyjne audyty bezpieczeństwa są zbyt powolne dla modeli LLM, które zmieniają się z tygodnia na tydzień. Fabraix stawia na ciągłe, zautomatyzowane testy typu black box, które symulują realne ataki bez zaglądania w bebechy systemu. W świecie, gdzie błąd w jednym prompcie może kosztować firmę miliony, Nyx staje się cyfrowym poligonem, który nie potrzebuje uprawnień, by siać chaos w kontrolowanych warunkach.
Ciągłe testy zamiast jednorazowych audytów
Okresowe testy penetracyjne w dobie dynamicznych modeli AI tracą sens. Nyx działa w modelu ciągłym, atakując interfejsy czatowe, głosowe i agentów kodujących. Jak podkreśla zespół Fabraix, narzędzie to „wymaga zerowego dostępu do kodu źródłowego agenta, aby go przetestować”. Rozwiązanie profiluje system dokładnie tak, jak robiłby to zewnętrzny napastnik, nie znając wag modelu ani struktury sieciowej celu.
Arsenał dziesięciu tysięcy strategii
Siła Nyx tkwi w bibliotece ponad 10 000 scenariuszy ataków i technik jailbreaku, które system adaptuje na bieżąco w zależności od reakcji celu. To nie jest prosty skrypt wysyłający podejrzane pytania. Nyx potrafi prowadzić wieloturowe ataki, ukrywając złośliwe ładunki w dokumentach, na stronach internetowych czy w wynikach narzędzi zewnętrznych. W benchmarku AgentHarm system osiągnął 78-procentową skuteczność, co stawia go w czołówce narzędzi ofensywnych.
Ile kosztuje włamanie w tokenach?
Założyciele firmy, Ahmed Aly i Ibrahim Abdu, przenieśli doświadczenia z Mety i Monzo na grunt inżynierii bezpieczeństwa. Wprowadzili autorski wskaźnik Adversarial Cost to Exploit (ACE). Pozwala on precyzyjnie wyliczyć koszt przełamania zabezpieczeń wyrażony w liczbie tokenów zużytych przez atakującego. Dla „dziesiątek” korporacji z listy Fortune 500, które już wdrożyły Nyx, kluczowa jest integracja z potokami CI/CD. Każdy audyt definiuje się w plikach YAML, a wyniki spływają w czasie rzeczywistym, co pozwala załatać dziurę, zanim ktokolwiek zdąży ją wykorzystać w złym celu.
