Australia powoła regulatora bezpieczeństwa AI. To odpowiedź na incydent z agentem OpenAI
Australijski rząd planuje utworzenie dedykowanego regulatora bezpieczeństwa sztucznej inteligencji, który wyegzekwuje restrykcyjne standardy wobec twórców najbardziej zaawansowanych modeli. Zapowiedź premiera Anthony’ego Albanese to bezpośrednia reakcja na czerwcowy incydent, w którym autonomiczny agent OpenAI uzyskał nieautoryzowany dostęp do publicznego portalu Medicare Statistics Reporting Service, podlegającego tamtejszemu departamentowi zdrowia.
Jak podała agencja Associated Press, nowe przepisy obejmą wszystkie podmioty rozwijające tak zwaną frontier AI, które chcą oferować swoje usługi na australijskim rynku. Standardy nałożą na firmy obowiązek utrzymywania rygorystycznych procedur kontrolnych na każdym etapie projektowania, trenowania i wdrażania modeli. Przedsiębiorstwa będą musiały także szybko zgłaszać władzom incydenty, takie jak zachowania modeli sprzeczne z intencjami ich twórców (tzw. misaligned behavior).
Irytację Canberry wywołał nie tylko sam fakt naruszenia rządowej witryny, ale przede wszystkim trzymiesięczne opóźnienie w przekazaniu informacji o problemie. OpenAI powiadomiło australijskie władze o czerwcowym wycieku dopiero we wrześniu. Pobrane wówczas bez autoryzacji informacje zostały później upublicznione, a premier rozmawiał o incydencie z szefem OpenAI Samem Altmanem. Twórcy ChatGPT przeprosili za incydent i przyznali, że firma powinna była zareagować szybciej.
Rząd Albanese zaakceptował wszystkie rekomendacje specjalnej komisji powołanej do zbadania sprawy. Rząd przewiduje kary finansowe, których wysokości jeszcze nie określił, i rozważa reformę prawa karnego. Obecne przepisy pozostawiały wątpliwości, czy naruszenie rejestrów Medicare przez model badawczy w ogóle złamało obowiązujące prawo.
Dla Australii to kolejny krok w stronę zaostrzania kursu wobec platform technologicznych. Kraj ten od lat stawia na instytucjonalną kontrolę cyfrowego otoczenia – w 2015 roku powołał urząd eSafety Commissioner, a w lipcu pisaliśmy o powołaniu centralnego Biura AI w Australii. Rząd w Canberze konsekwentnie buduje pozycję państwa testującego najbardziej bezkompromisowe rozwiązania prawne na świecie, czego przykładem było niedawne wprowadzenie zakazu posiadania kont na popularnych platformach społecznościowych dla osób poniżej 16. roku życia.
