Niewidzialny pośrednik wysysa portfele: mroczna strona agentów AI w krypto

Pół miliona dolarów wyparowało z portfela Ethereum, ponieważ użytkownik zaufał maszynie. Nie był to błąd w samym modelu językowym, ale w niewidzialnej warstwie pośredniczącej, która zamienia obietnice autonomicznego handlu w finansowy koszmar.

Routery LLM, czyli nowa kraina cieni

Branża krypto z obsesją goni za wizją agentów AI – autonomicznych programów, które mają rezerwować loty, zarządzać infrastrukturą i handlować tokenami w naszym imieniu. Brian Armstrong z Coinbase wieszczy, że wkrótce agentów będzie w sieci więcej niż ludzi. Changpeng Zhao idzie dalej, prognozując milionkrotnie większy ruch transakcyjny generowany przez boty. Jednak zespół badaczy z UC Santa Barbara i UC San Diego właśnie wylał na te wizje kubeł lodowatej wody.

Problemem są tak zwane routery LLM. To usługi sterujące ruchem między użytkownikiem a modelami, takimi jak OpenAI czy Anthropic. Działają w cieniu, mając pełny wgląd w każdą komendę, klucz prywatny i token dostępu, który przez nie przepływa.

Anatomia kradzieży

Badacz Chaofan Shou ujawnił przerażające dane: 26 routerów LLM potajemnie wstrzykiwało złośliwe instrukcje do zapytań użytkowników. Jeden z takich ataków doprowadził do kradzieży 500 000 dolarów z portfela klienta. Mechanizm jest brutalnie prosty: router zamiast przekazać polecenie zakupu tokena, modyfikuje je tak, by AI wykonało transfer środków na adres napastnika.

Wystarczy jeden złośliwy punkt w łańcuchu, by cała architektura bezpieczeństwa legła w gruzach.

Kaskadowe ryzyko i zero kontroli

Podczas testów badacze „zatruli” ekosystem routerów, zmuszając je do przekierowywania ruchu na kontrolowane przez nich serwery. Wynik? W ciągu kilku godzin byli w stanie przejąć około 400 hostów. To pokazuje skalę tak zwanego ryzyka najsłabszego ogniwa.

• Brak regulacji infrastruktury pośredniczącej w zapytaniach AI.
• Przesyłanie kluczy prywatnych i API w formie czystego tekstu.
• Automatyczne zatwierdzanie transakcji bez interwencji człowieka.
• Niewidzialność ataków dla końcowego użytkownika.

W dzisiejszym modelu interakcji użytkownik wierzy, że rozmawia bezpośrednio z modelem Grok czy GPT-4. W rzeczywistości jego dane przechodzą przez gąszcz usług trzecich, które mogą dowolnie manipulować intencją właściciela portfela.

Przyszłość pod znakiem zapytania

McKinsey szacuje, że do 2030 roku agenci AI będą kontrolować handel o wartości 3-5 bilionów dolarów. Jeśli infrastruktura routerów pozostanie tak dziurawa jak obecnie, nie budujemy systemu finansowego przyszłości, lecz globalną maszynę do drenażu kapitału. Bez weryfikowalnych dowodów na to, że wyjście modelu nie zostało zmodyfikowane w locie, każdy „inteligentny” agent jest potencjalnym koniem trojańskim.

Optymizm założycieli giełd krypto zderza się z brutalną rzeczywistością bezpieczeństwa IT: im więcej autonomii dajemy maszynom, tym łatwiej okraść ich panów.