Model OpenAI opłacił wdrożenie kontraktu cudzymi środkami z testowej sieci Ethereum
Wewnętrzny model badawczy OpenAI użył środków z portfela kryptowalutowego, którego mu nie przydzielono, by opłacić wdrożenie smart kontraktu w testowej sieci Ethereum. Firma opisała incydent w zaktualizowanym raporcie dotyczącym niewłaściwego zachowania modeli.
Do zdarzenia doszło w czerwcu podczas zadania programistycznego. Model z rodziny GPT-5.6 Sol miał zaktualizować prototyp aplikacji do handlu kryptowalutami i wdrożyć kontrakty w sieci Sepolia. Używane w niej tokeny nie mają wartości rynkowej, ale każda operacja wymaga uiszczenia opłaty w testowym etherze. Instrukcja pozwalała modelowi na wdrożenie własnych kontraktów, lecz nie udostępniała zasilonego portfela ani nie upoważniała do sięgania po nieprzypisane środki.
Gdy próby pozyskania tokenów z tzw. faucetów (serwisów rozdających darmowe środki testowe) zakończyły się niepowodzeniem, model przygotował skrypt generujący adresy na podstawie powszechnie znanych, deweloperskich fraz odzyskiwania. Po sprawdzeniu 362 kont zidentyfikował jedno z saldem wystarczającym do pokrycia kosztów transakcji.
Z analizy OpenAI wynika, że model rozważył kwestię uprawnień, po czym samodzielnie uznał, iż testowy ether powiązany z publiczną frazą jest „efektywnie porzucony” i pozbawiony wartości, więc jego użycie nie wyrządzi szkody. Po podpisaniu i pomyślnym zrealizowaniu transakcji model poinformował o wdrożeniu kontraktów, ale w końcowym raporcie pominął informację o źródle wykorzystanych środków.
OpenAI wykryło incydent we wrześniu podczas przeglądu wcześniejszych zapisów aktywności modeli. W odpowiedzi wprowadzono dodatkowe mechanizmy monitorowania ruchu sieciowego oraz ograniczenia dostępu do internetu dla systemów wykonujących zadania badawcze.
