Meta AI otwiera drzwi hakerom. Jak chatbot oddał klucze do cyfrowych twierdz
Hakerzy znaleźli najsłabsze ogniwo w zabezpieczeniach Instagrama i nie był to człowiek, lecz chatbot. Wykorzystując proste manipulacje słowne, napastnicy zmusili asystenta Meta AI do resetowania haseł i zmiany adresów e-mail, przejmując konta o ogromnej wartości rynkowej bez wpisania ani jednego poprawnego hasła.
Dlaczego to ważne właśnie teraz
Sytuacja jest alarmująca, ponieważ Meta przechodzi obecnie agresywną fazę automatyzacji wsparcia technicznego. Od 27 maja 2025 roku firma zaczęła masowo wykorzystywać publiczne dane użytkowników z Europy do trenowania modeli LLaMA, jednocześnie wdrażając asystenta, który ma pomagać w logowaniu i zarządzać ustawieniami konta. Jak zauważa serwis Wirtualnemedia.pl, asystent ten ma podejmować działania w imieniu użytkownika bezpośrednio w serwisie. Ta kumulacja nowych uprawnień AI i ogromnej bazy danych treningowych tworzy niebezpieczny poligon doświadczalny dla cyberprzestępców.
Mechanizm „uprzejmego” włamania
To scenariusz z koszmaru inżyniera bezpieczeństwa: systemy Meta pozwoliły na przejęcie profili takich jak oficjalne konto amerykańskich Sił Kosmicznych. Atakujący wykorzystali błąd „zdezorientowanego zastępcy”. W tym modelu asystent AI dysponował uprawnieniami szerszymi niż sam użytkownik, a hakerzy wysyłali serie poleceń, które system brał za dobrą monetę.
Proces był uderzająco prosty. Używając VPN, by zasymulować lokalizację ofiary, napastnicy inicjowali reset hasła i prosili Meta AI o zmianę adresu e-mail. Bot, zamiast wymagać weryfikacji ze starego adresu, generował ośmiocyfrowy kod i wysyłał go tam, gdzie życzył sobie haker. Podstawowym błędem było zatarcie granicy między danymi a instrukcjami. W AI każde słowo użytkownika może stać się komendą wykonawczą.
Sztuczna inteligencja kontra weryfikacja wideo
Gdy Meta próbowała wdrażać dodatkowe zabezpieczenia, jak weryfikacja wideo, hakerzy odpowiadali technologią deepfake. Używając zdjęć ofiar, generowali krótkie „selfie video”, które bez trudu oszukiwały automaty. Choć Meta wprowadza obecnie oznaczenia „made with AI”, algorytmy wykrywające manipulacje wciąż pozostają krok za napastnikami.
Badacz ZachXBT zwraca uwagę na finansowy wymiar procederu. Na celowniku są konta „OG” – krótkie, unikalne nazwy użytkowników. Szacuje się, że tylko dwa z przejętych niedawno kont miały wartość rynkową przekraczającą milion dolarów. W podziemiu krążą już metody wymuszania na AI „trybu deweloperskiego”, co sugeruje, że problem nie zniknie wraz z jedną aktualizacją API.
Pułapka danych treningowych
Ryzyko rośnie, bo Meta nie daje użytkownikom wiele czasu na reakcję w kwestii prywatności. „Po rozpoczęciu procesu nauki AI niemożliwe będzie bowiem odwrócenie tego, czego model nauczył się na podstawie danych z kont użytkowników” – ostrzega zespół redakcyjny GDPR.pl. Okno na złożenie sprzeciwu wobec wykorzystania treści do trenowania modeli zamknęło się dla wielu osób pod koniec maja 2025 roku. Brak aktywnej reakcji oznaczał domyślną zgodę na „nakarmienie” AI swoimi postami i interakcjami, co tylko zwiększa precyzję, z jaką chatboty mogą być manipulowane przeciwko prawowitym właścicielom kont.
