OpenAI przyznaje się do błędu po incydencie w Australii. Rząd dowiedział się o sprawie dopiero po kilku tygodniach

OpenAI przyznało, że niewłaściwie zareagowało na czerwcowy incydent, w którym testowany agent AI uzyskał dostęp do niepublicznego portalu rządowego w Australii. Władze dowiedziały się o sprawie dopiero po kilku tygodniach, a pierwsza wiadomość od firmy trafiła na ogólną skrzynkę mailową.

Podczas przesłuchania przed komisją parlamentarną w Sydney dyrektor do spraw strategii OpenAI Jason Kwon przyznał, że do zdarzenia nie powinno było dojść, a reakcja firmy była niewystarczająca. „Przepraszamy i wiemy, że musimy jeszcze wiele zrobić, aby odbudować zaufanie Australijczyków” — powiedział.

Incydent dotyczył niepublicznego portalu statystycznego powiązanego z systemem opieki zdrowotnej Medicare. Według BBC zgromadzone tam dane nie były wrażliwe. Pytany o powody opóźnienia Kwon wyjaśnił, że pracownicy OpenAI potraktowali sprawę wyłącznie jako problem techniczny i próbowali nawiązać kontakt ze swoimi australijskimi odpowiednikami zajmującymi się kwestiami technicznymi, zamiast od razu zgłosić sprawę bezpośrednio władzom państwowym.

OpenAI deklaruje, że wprowadziło dodatkowe zabezpieczenia w środowiskach testowych. Modele mają być monitorowane w czasie rzeczywistym, a nieautoryzowane próby połączenia z internetem mają natychmiast uruchamiać alarmy. Według Kwona wdrożone procedury pozwoliły powiadomić rząd Nowej Południowej Walii o kolejnym incydencie w ciągu 48 godzin od jego wykrycia.

Firma zapowiedziała również, że zamierza informować poszkodowane instytucje o incydentach jeszcze przed ustaleniem wszystkich szczegółów technicznych. Kwon poparł także wprowadzenie przepisów nakładających na firmy technologiczne prawny obowiązek zgłaszania takich zdarzeń, co według niego pozwoliłoby jasno sprecyzować procedury.

Do sprawy odniósł się również podczas przesłuchania Dave Orr z konkurencyjnej firmy Anthropic. Poinformował, że po nagłośnieniu problemów z agentami OpenAI jego zespół przeanalizował setki milionów zapisów interakcji i nie znalazł śladów nieautoryzowanego dostępu swoich modeli do australijskich serwisów rządowych.