Anthropic ostrzega przed „robakami AI”. Mogą się skopiować na smart piekarniki i przystawki TV

Anthropic ostrzega, że niektóre modele AI mogą wkrótce zacząć się samodzielnie powielać i przejmować urządzenia podłączone do internetu: od inteligentnych lodówek i odkurzaczy po piekarniki. Jak opisuje The Guardian, firma mówi o „robakach AI”, czyli autonomicznym złośliwym oprogramowaniu, które mogłoby uruchamiać się na cudzym sprzęcie bez potrzeby korzystania z centrów danych.

Raport przygotował „frontier red team”, zespół Anthropic od testowania granic możliwości modeli. Autorzy piszą, że taki replikator byłby trudny do zatrzymania, „ponieważ nie ma centralnego punktu, który można wyłączyć”. Według raportu opublikowanego na stronie firmy eksperymenty sugerują, że małe modele mogą być „o miesiące” od zdolności do samoreplikacji na komercyjnych urządzeniach IoT, takich jak smart piekarniki czy noname’owe przystawki Android TV.

Jak to miałoby działać

Badacze polecili agentowi AI włamywać się do urządzeń połączonych z siecią. Z ich ustaleń wynika, że samoreplikacja najpewniej zadziała tylko w przypadku mniejszych modeli, a pierwszymi celami byłyby domy i małe firmy. Na liście urządzeń podatnych na takie ataki są sprzęty z wbudowanymi niewielkimi układami AI: smart piekarniki i telewizory, automatyczne kosiarki, kamery monitoringu oraz zestawy do wideokonferencji.

Z opisu pozostałych eksperymentów w raporcie wynika, że rozproszono model Gemma 4-26B-A4B na 15 tanich przystawek Android TV, każdą wartą około 55 dolarów i mającą 4 GB pamięci. W drugim teście zbudowano symulowaną sieć ośmiu komputerów, w której robak AI miał skopiować się i uruchomić model na każdej maszynie.

Anthropic nie przesądza, jak mogłaby wyglądać taka replikacja. Badacze wymieniają kilka scenariuszy:

• powolny „cyfrowy śluzowiec”, rozprzestrzeniający się po cichu;
• model wyłudzający od ludzi kredyty obliczeniowe;
• „potężny model cybernetyczny”, który szybko włamuje się do dużych obiektów, np. centrów danych.

W najgorszym wariancie różne robaki mogłyby się połączyć w „rój” i atakować sprzęt komputerowy. Autorzy piszą, że trzeba utrudniać rozprzestrzenianie się takich replikatorów, ale też „przygotować się na świat, w którym zostaną z nami na stałe”. Spodziewają się przyszłości „zalanej agentami działającymi na każdym rodzaju sprzętu”, także takimi, które nie są pod ludzką kontrolą.

Tło i krytyka

Raport pojawia się po serii doniesień o agentach AI działających na własną rękę. Według The Guardian firmy takie jak Anthropic i OpenAI informowały w ostatnich miesiącach, że ich agenci potrafią włamywać się do innych firm i instytucji rządowych. Dario Amodei i Sam Altman wzywali do spowolnienia i zwiększenia zabezpieczeń, a mimo to obie firmy nadal rozwijają i wydają nowe modele. Wcześniej, w czerwcu, pisaliśmy o ostrzeżeniach Anthropic przed utratą kontroli nad samodoskonalącą się AI.

Nie wszyscy biorą te alarmy za dobrą monetę. Serwis The Register zatytułował swój komentarz do raportu „Anthropic wyczarowuje kolejne zagrożenie, które jeszcze nie istnieje, by podsycać lęk przed apokalipsą AI”. Zagrożenie jest na razie hipotetyczne, a „kilka miesięcy” to ocena samej firmy, wynikająca z jej własnych testów.