Bezpieczeństwo czy blokada konkurencji? Kulisy walki o spowolnienie prac nad AI

Największe firmy sektora sztucznej inteligencji, z Anthropic i OpenAI na czele, forsują ideę skoordynowanego spowolnienia prac nad tzw. modelami frontier AI. Dario Amodei, dyrektor generalny Anthropic, wezwał do stworzenia mechanizmów, które miałyby zapobiegać zbyt szybkiemu wyścigowi technologicznemu kosztem bezpieczeństwa. Propozycja obejmuje m.in. stały dostęp zewnętrznych ewaluatorów do systemów na poziomie zbliżonym do uprawnień pracowniczych oraz stałe monitorowanie postępów. Dario Amodei precyzuje jednak, że jego postulat nie oznacza całkowitego zatrzymania treningu nowych modeli ani wstrzymania postępu technicznego. Według szefa Anthropic, celem nie jest blokada innowacji, lecz wprowadzenie odpowiedniego tempa (tzw. pacing), które pozwoli na bezpieczne wdrażanie technologii.

Dario Amodei w swojej propozycji dotyczącej tzw. pacingu frontier AI podkreśla, że kluczowym etapem ma być zapewnienie zewnętrznym audytorom szerokich uprawnień, określanych jako „dostęp na poziomie pracowniczym” (employee-like access). Szef Anthropic zaznacza przy tym, że postulowane ograniczenia nie mają na celu wstrzymania treningu nowych modeli ani blokowania postępu technicznego, lecz wprowadzenie systemowych mechanizmów kontrolnych.

Skala jako kryterium ryzyka

Najbardziej kontrowersyjnym elementem planu jest propozycja, by ryzyko definiować jako funkcję skali systemu. W praktyce oznacza to, że podmioty posiadające największą moc obliczeniową i najbardziej zaawansowane modele automatycznie stają się kluczowymi partnerami w procesie oceny bezpieczeństwa. Krytycy, w tym Aidan Gomez, dyrektor generalny firmy Cohere, nazywają ten projekt próbą stworzenia „kartelu pod inną nazwą”.

Gomez argumentuje, że postulowane bariery – konieczność utrzymywania gigantycznej infrastruktury monitorującej, powoływania dedykowanych organizacji bezpieczeństwa oraz ścisłych powiązań z rządami – to koszty, na które stać wyłącznie najbogatszych graczy. Dodatkowo pojawiają się wątpliwości dotyczące bezstronności audytorów: wielu z nich jest finansowanych przez laboratoria, które mają kontrolować.

Postulaty antymonopolowe i opór branży

Inicjatywa Amodeiego zakłada również stworzenie specjalnych ram prawnych, które mogłyby obejmować zwolnienia z przepisów antymonopolowych w celu umożliwienia firmom wspólnej koordynacji działań. Zdaniem zwolenników otwartego oprogramowania, takie kroki służą nie tyle bezpieczeństwu ludzkości, co uderzeniu w modele typu open-weight, które stają się realną konkurencją dla zamkniętych systemów gigantów.

W branży narasta dyskusja, czy priorytetem powinny być hipotetyczne, długoterminowe zagrożenia egzystencjalne, czy realne nadużycia, które dzieją się już teraz, takie jak masowe oszustwa z wykorzystaniem klonowania głosu. Eksperci wskazują, że koncentracja na futurystycznych scenariuszach pozwala firmom odciągnąć uwagę od ich obecnej odpowiedzialności cywilnej.

Brak globalnej spójności

Polityczny wymiar sporu jest szczególnie widoczny w Stanach Zjednoczonych, gdzie Demokraci skłaniają się ku regulacjom i transparentności, podczas gdy środowiska związane z Donaldem Trumpem i Republikanami traktują ostrzeżenia o AI z dużym dystansem. David Sacks, doradca Trumpa, sugeruje, że wezwania do regulacji są formą ucieczki przed odpowiedzialnością prawną za skutki działania modeli.

Perspektywa globalnej koordynacji wydaje się jeszcze bardziej odległa po reakcji Pekinu. Chińskie władze publicznie odrzuciły propozycję spowolnienia, określając ją jako próbę technologicznego powstrzymania innych państw. Brak zgody Chin sprawia, że jednostronne ograniczenie tempa prac przez amerykańskie laboratoria mogłoby zostać uznane za osłabienie strategicznej przewagi technologicznej USA.