OpenAI: autonomiczny system znalazł 948 luk w jądrze Linuksa i napisał do nich exploity

OpenAI opisało eksperyment, w którym autonomiczni agenci AI ds. bezpieczeństwa przeszukali fragment jądra Linuksa. Efekt to 948 odrębnych podatności typu lokalna eskalacja uprawnień (LPE), każda z działającym exploitem i szkicem poprawki do przeglądu. Wyniki firma opublikowała we wpisie „A thousand fewer paths to root”, a opisał je też Decrypt.

Luki tego typu wymagają wcześniejszego, ograniczonego dostępu do podatnej maszyny. Atakujący, który taki dostęp ma, może dzięki podatności uzyskać uprawnienia roota i przejąć pełną kontrolę nad urządzeniem. Jądro Linuksa działa m.in. na serwerach w chmurze i w Androidzie, więc stawka jest wysoka. Jak tłumaczy OpenAI, wybrało Linuksa, by sprawdzić, jak skutecznie modele z najwyższej półki znajdują podatności i pokazują ich wpływ na bezpieczeństwo w kodzie takiej skali i wagi.

Od 2308 kandydatów do 948 exploitów

Agenci przeanalizowali około 2,8 mln linii kodu, czyli mniej więcej 7% jądra. Według OpenAI prototyp zidentyfikował i przeanalizował 2308 kandydatów na podatności, dynamicznie odtworzył 1724 z nich i ostatecznie wytworzył 948 exploitów LPE, które pozwalają nieuprzywilejowanemu lokalnemu użytkownikowi zdobyć roota. Liczba 948 oznacza odrębne luki, bo exploity pogrupowano według przyczyny źródłowej i proponowanej poprawki.

Październikowy przebieg kosztował 1 213 430 dolarów w kredytach API, czyli około 1279 dolarów za podatność. OpenAI porównuje to z historycznymi nagrodami za exploity eskalacji uprawnień w Linuksie na konkursach hakerskich, które wynosiły od 20 do 70 tys. dolarów. Przy ręcznym znalezieniu tych samych luk dałoby to hipotetyczną wartość od 18,9 do 66,3 mln dolarów. To wyliczenie samej firmy, nie rynkowa wycena.

Ważny jest też postęp między kolejnymi podejściami. Wcześniejsza kampania z modelem GPT-5.6 Sol wykryła w lipcu 166 unikalnych podatności eskalacji uprawnień za 513 690 dolarów. Nowszy, niewydany model do zadań cybernetycznych znalazł w październiku ponad pięć razy więcej, choć jądro przeszło w międzyczasie kilka miesięcy poprawek. OpenAI dodaje, że agenci użyli co najmniej 10 technik eksploatacji, których nie znali badacze ani konsultowani eksperci. Nie były to więc tylko triki odtworzone z danych treningowych.

Poprawki wygenerowane przez system mają status kandydatów. Zatwierdzanie ich i wdrażanie pozostaje po stronie ludzi i opiekunów oprogramowania.

Konkurencja i dostęp

Podobne wyniki publikują też inni. Jak pisał The Hacker News, Anthropic opisało tydzień wcześniej niewydany model, który znalazł i połączył luki m.in. w Chrome i Linuksie w działające proof-of-concepty. Decrypt przypomina też, że badacze z Vidoc Security odtworzyli część odkryć powiązanych z modelem Mythos, używając publicznie dostępnych modeli, za mniej niż 30 dolarów na plik. Jak zaznacza serwis, odtworzenie luki to jednak nie to samo co niezawodny exploit przeciw chronionemu systemowi, a eksperyment OpenAI idzie dalej, bo automatyzuje większość procesu eksploatacji.

OpenAI ostrzega, że atakujący z ograniczonym dostępem do przestarzałego systemu mogą dzięki AI coraz łatwiej podnosić uprawnienia. Firma próbuje ograniczać dostęp do najmocniejszych modeli cyberbezpieczeństwa przez programy dla zweryfikowanych zespołów. Jednym z nich jest Daybreak, a w jego ramach Daybreak Red. Zgodnie z opisem w centrum pomocy OpenAI jest on przeznaczony do zaawansowanych, autoryzowanych zadań, w tym tworzenia exploitów proof-of-concept, walidacji łańcuchów exploitów, testów penetracyjnych i red teamingu. Daybreak Red jest też dostępny w AWS GovCloud.