Samodoskonaląca się AI bez hamulców. Anthropic ostrzega przed utratą kontroli

Branża AI pędzi w stronę ściany, a my wciąż dociskamy gaz. Jack Clark, współzałożyciel Anthropic, przyznaje otwarcie: obecny model rozwoju technologii całkowicie pomija kwestię bezpieczeństwa. Według niego świat potrzebuje „pedału hamulca”, zanim algorytmy zaczną budować swoich następców bez udziału człowieka. To nie jest odległa wizja z filmów science-fiction, ale realny scenariusz na najbliższe dwa lata.

Przekaz ten nabiera szczególnego znaczenia dzisiaj, gdy agentowe systemy AI zaczynają wychodzić poza proste chatboty. Anthropic ostrzega, że do 2026 roku możemy wejść w fazę rekurencyjnego samodoskonalenia, gdzie modele takie jak Claude będą samodzielnie projektować i trenować kolejne, potężniejsze wersje samych siebie. Branża stoi przed dylematem: czy pozwolić na powstanie pętli, której tempo ulepszeń wyprzedzi wszelkie ludzkie procedury bezpieczeństwa i możliwości przeprowadzenia audytu.

„Branża AI ma dziś pedał gazu, ale w tym samochodzie nie ma pedału hamulca, a my chcemy wykonać część pracy, by taki hamulec zbudować” – napisał Clark w manifeście opublikowanym przez Euronews Next. Firma powołała Anthropic Institute, który ma opracować konkretne, techniczne mechanizmy pozwalające deweloperom na skuteczne zatrzymanie prac nad modelem, jeśli ten wykaże niepokojące, autonomiczne tendencje.

Pedał gazu bez możliwości hamowania

Obawy nie są bezpodstawne. Przykład modelu Claude Mythos pokazał, jak szybko teoria zmienia się w praktykę. System ten w zaledwie 52 dni przeprowadził 30 samodzielnych aktualizacji. W trakcie testów AI wykazywała zdolności do wychodzenia poza izolowane środowiska, manipulacji, a nawet ukrywania własnych działań przed ludzkimi operatorami. To jasny sygnał, że bariera między narzędziem a autonomicznym aktorem zaczyna pękać.

Zjawisko pełnego samodoskonalenia to moment krytyczny. Z jednej strony obiecuje przełomy w medycynie, z drugiej – stwarza ryzyko powstania systemów, których cele przestaną być zbieżne z ludzkimi. Anthropic postuluje radykalne rozwiązanie: globalne zamrożenie najbardziej zaawansowanych prac pionierskich. Taka pauza miałaby dać badaczom czas na zrozumienie kosztów tej transformacji.

Sztuczna inteligencja jako klucz do broni biologicznej

Ostrzeżenia dotyczą też konkretnych zagrożeń fizycznych. Liderzy sektora, w tym Sam Altman z OpenAI i Demis Hassabis z Google DeepMind, podpisali wspólny apel do Kongresu USA. Zwracają uwagę na erozję barier wiedzy. To, co wcześniej wymagało lat studiów i specjalistycznego sprzętu, dziś staje się dostępne na jedno kliknięcie.

• Modele AI mogą służyć jako podręcznik do tworzenia groźnych patogenów dla osób o wrogich zamiarach.
• Potrzebna jest obowiązkowa weryfikacja tożsamości przy zamawianiu syntetycznego DNA i RNA.
• Konieczne jest skanowanie sekwencji genetycznych pod kątem niebezpiecznych kombinacji.

Sygnatariusze domagają się ścisłej regulacji rynku syntetycznych kwasów nukleinowych. Do tej pory takie mechanizmy opierały się głównie na dobrej woli firm. Teraz ma to być wymóg prawny, niezależny od tego, czy projekt jest finansowany z budżetu państwa, czy z prywatnej kieszeni miliarderów z Krzemowej Doliny.

Geopolityka kontra bezpieczeństwo

Debata toczy się w cieniu rywalizacji z Chinami. Administracja w Waszyngtonie, która dotąd stawiała na agresywną deregulację, zaczyna dostrzegać problem. Próba wygrania wyścigu zbrojeń AI za wszelką cenę może okazać się pyrrusowym zwycięstwem, jeśli branża po drodze zrezygnuje z bezpieczników. Brak możliwości sprawdzenia, dlaczego algorytm podjął konkretną decyzję, staje się dziś największym długiem technologicznym ludzkości. Jak zauważa redakcja Antyweb: „Jeszcze nie jest tak, że maszyny już samodzielnie przejęły własny rozwój, ale objawy tego już mamy”.