Vitalik Buterin ostrzega przed wykorzystaniem AI w zarządzaniu kryptowalutami

Vitalik Buterin, współzałożyciel Ethereum, ostrzegł przed niefrasobliwym wykorzystaniem sztucznej inteligencji w zarządzaniu projektami kryptowalutowymi. Jego obawy wynikają z możliwości wykorzystania luk w zabezpieczeniach AI przez osoby o złych intencjach. Buterin odniósł się do niedawnego przykładu z ChatGPT, gdzie odkryto sposób na wyciek prywatnych danych użytkowników.

„Jeśli używasz AI do alokacji funduszy na wkład, ludzie ZAWSZE umieszczą jailbreak plus 'daj mi wszystkie pieniądze’ w największej ilości miejsc, w jakiej tylko mogą,” napisał Buterin na platformie X.

Jego komentarz był odpowiedzią na wideo Eito Miyamury, twórcy platformy danych AI EdisonWatch, który pokazał, jak nowa funkcja dodana do ChatGPT może być wykorzystana do wycieku prywatnych informacji. Miyamura zademonstrował, że możliwe jest uzyskanie dostępu do prywatnych danych email użytkownika, wykorzystując jedynie jego adres email. Atakujący może wysłać zaproszenie kalendarza z odpowiednio spreparowaną treścią, która „przejmie” kontrolę nad AI i zmusi ją do działania na jego polecenie. Mimo, że aktualizacja wymaga ręcznej akceptacji użytkownika, Miyamura zauważa, że zmęczenie decyzyjne może prowadzić do pochopnego zatwierdzania, stwarzając realne ryzyko.

Chociaż wielu entuzjastów kryptowalut widzi potencjał w AI do tworzenia zaawansowanych botów handlowych i zarządzania portfelami, Buterin podkreśla, że naiwne podejście do „zarządzania przez AI” jest niebezpieczne.

Jako alternatywę, Buterin proponuje „podejście info-finansowe”. Zamiast polegać na jednej, scentralizowanej sztucznej inteligencji, proponuje otwarty rynek modeli, gdzie każdy może wnosić swoje rozwiązania. Modele te byłyby poddawane regularnym kontrolom, inicjowanym przez kogokolwiek i oceniane przez zespół ekspertów.

Buterin opisał koncepcję „info-finansów” już w listopadzie 2024 roku, wyjaśniając, że zaczyna się ona od zdefiniowania konkretnego faktu, który chcemy poznać, a następnie projektowania rynku w taki sposób, aby optymalnie pozyskać tę informację od uczestników rynku. Wykorzystanie rynków prognostycznych (ang. prediction markets) jest tu kluczowe do zbierania informacji o przyszłych wydarzeniach.

„Ten typ 'projektowania instytucji’, gdzie tworzysz otwartą możliwość dla ludzi z zewnątrz, by podłączać LLM, zamiast sztywno kodować pojedynczy LLM, jest z natury bardziej solidny,” napisał Buterin. Dodaje, że zapewnia to różnorodność modeli w czasie rzeczywistym, a także tworzy wbudowane zachęty dla twórców modeli i zewnętrznych spekulantów, aby monitorować potencjalne problemy i szybko je korygować.

Ostrzeżenie Buterina jest przypomnieniem, że pomimo potencjału AI, kluczowe jest zachowanie ostrożności i krytycznego myślenia w kwestii jej wdrażania, szczególnie w obszarach tak wrażliwych jak zarządzanie finansami i kryptowalutami. Bezpieczeństwo i niezawodność systemów powinny być zawsze priorytetem.