Zwolnieni badacze OpenAI: nikt nie powiedział nam, co rzekomo wyciekło
Troje badaczy bezpieczeństwa zwolnionych z OpenAI opowiada własną wersję wydarzeń. Jak opisuje The Decoder na podstawie wywiadów udzielonych „Wall Street Journal”, Tomek Korbak, Mikita Balesni i Jasmine Wang zaprzeczają, by przekazali komukolwiek informacje poufne. Twierdzą też, że nigdy nie dostali na piśmie wskazania, co konkretnie miało zostać ujawnione. „Nigdy nam nie powiedziano, co rzekomo wyciekło” – mówił Korbak w rozmowie z NPR.
O samych zwolnieniach pisaliśmy 2 października, a 9 października o sporze o zasady współpracy z audytorami. Teraz doszły szczegóły dotyczące przebiegu śledztwa.
Signal, znikające wiadomości i tydzień do zwolnienia
Zespół bezpieczeństwa OpenAI podejrzewał, że trójka przekazała zewnętrznemu badaczowi szczegóły wewnętrznej architektury modeli. Poprosił o odblokowanie prywatnych telefonów. Na urządzeniach znalazł czaty na Signalu z włączonymi znikającymi wiadomościami. Tydzień później wszyscy troje zostali zwolnieni jednocześnie.
OpenAI przekazało, że Signal nie jest zatwierdzonym narzędziem komunikacji, ale nie był powodem zwolnień. Korbak odpowiada, że znikające wiadomości to w Dolinie Krzemowej rutynowa praktyka bezpieczeństwa. Firma twierdzi też, że zwolnienia nie miały związku z zastrzeżeniami dotyczącymi bezpieczeństwa, które badacze zgłaszali wcześniej.
Spór o łańcuch rozumowania
Badacze podejrzewają związek z ich zaangażowaniem w kwestię, która dzieli branżę: czy firmy powinny pozwalać innym zaglądać, jak modele „myślą”. Modele rozumujące zapisują pośrednie kroki rozwiązywania problemu w wewnętrznym brudnopisie, czyli łańcuchu rozumowania. Firmy i badacze bezpieczeństwa polegają na tych śladach, by zrozumieć, skąd biorą się decyzje modelu. W opublikowanej w 2025 roku pracy Balesni, Korbak i Wang razem z badaczami z kilku laboratoriów apelowali o utrzymanie takiego dostępu.
Latem w firmach AI zaczęto rozmawiać o modelach, które myślą dłużej, ale zapisują mniej kroków pośrednich. Balesni zareagował wewnętrznie, przekazując powiązaną propozycję Ryana Greenblatta, wówczas głównego naukowca Redwood Research. Korbak także regularnie kontaktował się z Greenblattem – przez Slacka i Signala. Obaj pracowali nad analizą głośnego incydentu, czyli ataku agentów OpenAI na Hugging Face. Greenblatta zatrudniło w tym celu METR, by przeprowadził niezależne dochodzenie.
Ta współpraca stała się obciążeniem po tym, jak 1 września The Information napisał, że nowy model OpenAI, Astra, jest zdolniejszy, ale ujawnia mniej ze swojego rozumowania. Jakub Pachocki, główny naukowiec OpenAI, nazwał wtedy tekst na X zagmatwanym, choć sam ostrzegał przed branżowym wyścigiem w stronę modeli, których nie da się już monitorować. Kilka tygodni później OpenAI wszczęło wewnętrzne śledztwo w sprawie wycieku. Według Balesniego śledczy wskazali Greenblatta jako podejrzanego o bycie źródłem i zażądali czatów z nim. Greenblatt zaprzecza, że przekazywał poufne informacje dziennikarzom.
Osobny zarzut wobec Wang
Wang usłyszała inny zarzut: że wielokrotnie wchodziła do skrzynki odbiorczej jednego z członków kierownictwa. Według niej prosiła o odebranie sobie tego dostępu prawie rok wcześniej, a miesiąc przed zwolnieniem przypadkowo otworzyła wrażliwy e-mail. Nie ujawniła jego treści i od razu zgłosiła incydent. OpenAI mówi, że sam dostęp nie był problemem.
Skutki i audyt z zaczernionymi fragmentami
Korbak mówi, że konsekwencje wykraczają poza trójkę zwolnionych: koledzy boją się rozmawiać z osobami z zewnątrz i zgłaszać wątpliwości wewnątrz firmy. Balesni dodał w NPR: „Nie sądzę, żeby to powinno spotykać ludzi zajmujących się bezpieczeństwem”. W liście do rady dyrektorów OpenAI badacze apelują o ściślejszą współpracę z zewnętrznymi organizacjami zajmującymi się bezpieczeństwem. Obawiają się, że sprawa zniechęci niezależnych audytorów do pracy z firmami AI.
W tle pozostaje niedawny audyt na miejscu. The Decoder pisze, że pracownicy METR i Redwood Research znaleźli w infrastrukturze OpenAI liczne luki, a firma zaczerniła niemal połowę raportu końcowego. Według opisu METR test trwał trzy tygodnie i dał 61-stronicowy raport wewnętrzny. Liderzy METR i Redwood otrzymali po redakcjach wersję skróconą do 38 stron. Luki w systemie monitorowania OpenAI wskazało także CNBC. OpenAI opublikowało własny raport o nowej architekturze bezpieczeństwa, działającej bez dostępu do internetu. Firma zapewnia, że usunęła problemy i na początku października wznowiła trening. Zapowiada też wkrótce kilka nowych partnerstw zewnętrznych.
