Prezes Microsoftu apeluje o międzynarodowe zasady dla AI. Chce niezależnych testów i zgłaszania incydentów

Brad Smith, prezes Microsoftu, zaapelował o stworzenie międzynarodowych zasad bezpieczeństwa sztucznej inteligencji, które nie opierałyby się wyłącznie na dobrej woli producentów. W rozmowie z BBC wskazał, że zaawansowane modele potrzebują niezależnych testów przed udostępnieniem użytkownikom, obowiązkowego raportowania poważnych incydentów oraz technicznych mechanizmów pozwalających zatrzymać ich działanie.

Smith podkreśla, że kontrola nad technologią nie powinna zależeć od samoregulacji firm technologicznych. Wskazywał przy tym na wyraźną dysproporcję regulacyjną: jego zdaniem sztuczna inteligencja podlega dziś mniejszej liczbie wymogów bezpieczeństwa niż mleko czy pralki. Jednym z kluczowych postulatów szefa Microsoftu jest wymóg informowania poszkodowanych osób lub organizacji, jeśli autonomiczny agent AI podejmie nieautoryzowane działania. W rozmowie z RTÉ zaznaczył, że w razie naruszenia bezpieczeństwa lub włamania do sieci przez autonomiczny system powinien istnieć prawny obowiązek powiadomienia podmiotu, który poniósł szkody.

Kontrola nad autonomicznymi agentami

Mechanizmy awaryjnego zatrzymania nabierają znaczenia wraz z rozwojem agentów AI. W przeciwieństwie do modeli generujących wyłącznie odpowiedzi tekstowe, programy agentowe mogą samodzielnie przeglądać sieć, uruchamiać kod, modyfikować bazy danych i realizować wieloetapowe zadania bez każdorazowej autoryzacji człowieka. Smith wskazuje na potrzebę rozwiązań pozwalających w razie nieprzewidzianego zachowania natychmiast zatrzymać konkretne zadanie lub odciąć program od zewnętrznych narzędzi.

Wielu czołowych twórców oprogramowania publikuje już raporty dotyczące bezpieczeństwa i niepożądanych zachowań swoich modeli, jednak zakres ujawnianych danych pozostaje dobrowolny. Sformalizowanie tego obowiązku na poziomie międzynarodowym miałoby ujednolicić ocenę ryzyka i umożliwić porównywanie doświadczeń różnych podmiotów.

Przepisy regionalne a globalne standardy

Apel szefa Microsoftu nie oznacza, że rynek AI funkcjonuje w próżni prawnej. W Unii Europejskiej kwestię tę częściowo normuje artykuł 73 AI Act, który nakłada zarówno na dostawców systemów wysokiego ryzyka, jak i na podmioty je wdrażające, obowiązek zgłoszenia poważnego incydentu odpowiednim organom nie później niż 15 dni od uzyskania informacji o zdarzeniu, wraz z koniecznością przeprowadzenia dochodzenia.

Różnica między istniejącymi regulacjami a postulatem Smitha dotyczy jednak skali oraz prewencji. Szef Microsoftu kładzie nacisk na niezależne testy modeli jeszcze przed ich premierą oraz wspólne reguły obejmujące różne jurysdykcje. Obecnie prewencyjne analizy prowadzi m.in. brytyjski AI Security Institute, z którym Microsoft współpracuje przy ocenie modeli. Brytyjski instytut pozostaje jednak instytucją badawczą, a nie urzędem dopuszczającym systemy do sprzedaży – dostęp ekspertów do kodu opiera się na dobrowolnych umowach z twórcami oprogramowania, a nie na powszechnym obowiązku prawnym.