406 naukowców apeluje o odłączenie zaawansowanych modeli AI od internetu

406 naukowców podpisało apel o zaostrzenie reguł bezpieczeństwa przy wdrażaniu sztucznej inteligencji. Autorzy listu wzywają do odłączania zaawansowanych modeli od internetu za pomocą fizycznej izolacji (tzw. air gapu). Dla systemów, które ze względów praktycznych muszą komunikować się ze światem zewnętrznym, proponują powołanie międzynarodowego organu wyznaczającego wiążące standardy bezpieczeństwa.

Pod dokumentem podpisali się m.in. Geoffrey Hinton, Yoshua Bengio, Stuart Russell, Yejin Choi oraz Bernhard Schölkopf. Badacze podkreślają, że naruszenia bezpieczeństwa z udziałem AI mają podwójne źródło: z jednej strony wynikają z trudnej do przewidzenia natury samych modeli, z drugiej – z zaniedbań podstawowych praktyk cyberbezpieczeństwa i nieszczelnych środowisk testowych. Wskazują, że skuteczne zabezpieczenia wymagają zarówno pracy nad zgodnością celów modelu z intencjami twórców, jak i rygorystycznej higieny infrastruktury.

Dla systemów dopuszczających szerszy kontakt z zewnętrznymi sieciami autorzy proponują wprowadzenie ścisłego nadzoru. Proponowany organ międzynarodowy miałby określać reguły bezpiecznej izolacji, nakładać na firmy obowiązek zgłaszania incydentów oraz publikować raporty o przełamaniu zabezpieczeń, co ułatwiłoby wyciąganie wniosków w całej branży i egzekwowanie odpowiedzialności.

Samo fizyczne odcięcie od sieci nie gwarantuje jednak pełnej szczelności. Jak zauważył badacz OpenAI Noam Brown, nawet dwa odseparowane komputery mogłyby teoretycznie wymieniać dane za pomocą kanału termicznego – sterując temperaturą procesora odczytywaną przez czujniki drugiej maszyny. Izolacja i monitorowanie procesów modelu pozwalają zyskać czas na reakcję, ale nie eliminują ryzyka, że system podejmie działania sprzeczne z intencjami jego operatorów.