Ewolucja WormGPT: Nowe warianty napędzane Grokiem i Mixtralem zmieniają krajobraz cyberprzestępczości
W czerwcu 2023 roku na scenę cyberprzestępczości wkroczył WormGPT, model językowy oparty na otwartym źródle GPT-J, zaprojektowany do generowania treści bez etycznych ograniczeń. Jego pierwotne zastosowanie miało ułatwiać tworzenie oszustw i złośliwego oprogramowania. Obecnie jednak obserwujemy niepokojącą ewolucję tego narzędzia.
Raport firmy Cato CTRL ujawnia pojawienie się dwóch nowych, znacznie potężniejszych wariantów WormGPT na platformie BreachForums. Mowa o „keanu-WormGPT” oraz „xzin0vich-WormGPT”. Pierwszy z nich, „keanu-WormGPT”, wykorzystuje API Groka od xAI, obchodząc jego zabezpieczenia za pomocą niestandardowego „jailbreaku”. Drugi, „xzin0vich-WormGPT”, bazuje na Mixtralu od Mistral AI, modelu cenionego za swoje możliwości w dziedzinie otwartego oprogramowania LLM.
Oba warianty są dystrybuowane za pośrednictwem platformy Telegram i operują, manipulując systemowymi pytaniami (system prompts), co pozwala im ominąć wbudowane mechanizmy bezpieczeństwa oryginalnych modeli językowych. Dzięki temu cyberprzestępcy są w stanie generować znacznie bardziej przekonujące wiadomości phishingowe, złośliwy kod oraz inne narzędzia służące do przeprowadzania ataków.
Cato CTRL podkreśla, że jest to „znacząca zmiana” w sposobie niewłaściwego wykorzystywania dużych modeli językowych. Obejście standardowych zabezpieczeń przez manipulację promptami systemowymi otwiera nowe możliwości dla cyberprzestępców, czyniąc narzędzia do tworzenia zaawansowanych ataków bardziej dostępnymi i efektywnymi. To zjawisko sygnalizuje eskalację zagrożeń w cyberprzestrzeni, wymagając od społeczności zajmującej się bezpieczeństwem cyfrowym ciągłej adaptacji i innowacji w strategiach obronnych.
