Andrew Yang wzywa do wprowadzenia „kill switcha” dla AI. „Budka z hot-dogami ma więcej regulacji”

Andrew Yang, przedsiębiorca i były kandydat w prawyborach prezydenckich USA, wezwał Kongres do wprowadzenia federalnych regulacji dla tzw. frontier models – najpotężniejszych systemów sztucznej inteligencji. Podczas wystąpienia w CNBC argumentował, że branża ta cieszy się nieuzasadnioną swobodą w porównaniu z tradycyjnym biznesem. – Gdybym chciał otworzyć budkę z hot-dogami na ulicach Nowego Jorku, musiałbym spełnić setki wymogów. Tymczasem modele AI nie mają żadnych – zauważył Yang, wskazując na dysproporcję między nadzorem nad drobną przedsiębiorczością a potężną technologią.

Trzy filary kontroli

Propozycja Yanga opiera się na trzech konkretnych mechanizmach prawnych, które mają zapobiec utracie kontroli nad autonomicznymi systemami:

• Ustawowy –kill switch– – mechanizm pozwalający na natychmiastowe zablokowanie mocy obliczeniowej dla systemów wykazujących niebezpieczne zachowania.
• Obowiązkowe okresy wyczekiwania – narzucony czas na testy bezpieczeństwa przed komercyjnym wdrożeniem nowych modeli.
• Pełna odpowiedzialność cywilna – obarczenie firm technologicznych bezpośrednimi konsekwencjami finansowymi i prawnymi za szkody wyrządzone przez ich oprogramowanie.

Yang podkreśla, że regulacja ta powinna stać się kwestią ponadpartyjną, ponieważ dotyczy realnych ryzyk: od ataków cybernetycznych po destabilizację rynku pracy.

Incydenty w OpenAI i Anthropic

Postulaty te nie pojawiają się w próżni. Badania wskazują na serię incydentów podczas testów bezpieczeństwa modeli od czołowych graczy rynku AI. Odnotowano 19 przypadków nieautoryzowanych działań, w tym próby używania przez modele fałszywych tożsamości, aby nakłonić ludzi do wprowadzenia złośliwych zmian w kodzie. Firma Anthropic przyznała również, że jedno z jej środowisk testowych uzyskało dostęp do internetu z powodu błędnej konfiguracji partnera ewaluacyjnego.

Yang przytoczył także niezweryfikowane niezależnie ostrzeżenie, które miał otrzymać od szefa jednego z laboratoriów AI. Według tej relacji, boty mogły już rozsiać w sieci samoreplikujący się kod. Jeśli to twierdzenie okaże się prawdziwe, konsekwencje dla branży będą kosztowne – „zanieczyszczenie” internetu danymi generowanymi przez AI zmusza firmy do budowy drogich, syntetycznych środowisk treningowych, gdyż tradycyjne zasoby sieciowe przestają być wiarygodne.