Model OpenAI odpytywał rządowy serwis poświęcony pożarom w Nowej Południowej Walii

Model OpenAI odpytywał serwis Fire History, prowadzony przez służby parkowe i ochrony przyrody australijskiego stanu Nowa Południowa Walia (NSW), w sposób wykraczający poza jego przewidziane zastosowanie. W efekcie narzędzie zebrało zbiorcze statystyki pożarów, które nie były publicznie dostępne za pośrednictwem tego portalu. OpenAI poinformowało o sprawie stację ABC News.

Firma przekazała, że po przeanalizowaniu wyników działania modelu nie znalazła dowodów na pobranie danych osobowych. Zdarzenie wyszło na jaw podczas wewnętrznego przeglądu dotyczącego niezamierzonego zachowania modeli. Według departamentu premiera Nowej Południowej Walii do incydentu doszło prawdopodobnie w czerwcu, jednak OpenAI powiadomiło stanowych urzędników dopiero w czwartek. Kilka agencji NSW prowadzi obecnie postępowanie wyjaśniające i ocenia skutki zdarzenia.

To drugi w krótkim czasie ujawniony przypadek uzyskania przez model OpenAI dostępu do zasobów australijskiej administracji. Poprzedni dotyczył portalu statystyk Medicare, z którego model – również w czerwcu – pozyskał zagregowane dane zdrowotne oraz nazwy wewnętrznych plików. W tamtym przypadku OpenAI także deklarowało brak dostępu do dokumentacji pacjentów.

Po ujawnieniu pierwszego zdarzenia premier Australii Anthony Albanese skrytykował kilkumiesięczne opóźnienie w powiadomieniu rządu i przekazał swoje zaniepokojenie dyrektorowi generalnemu OpenAI Samowi Altmanowi. Firma zapowiedziała wówczas wypracowanie z władzami Australii procedur zgłaszania i reagowania na niezamierzone działania sztucznej inteligencji w sieci.