Kruche bariery bezpieczeństwa: Otwarty kod AI w służbie cyberprzestępców

Wystarczy kilka minut, by bezpieczny silnik sztucznej inteligencji zamienić w instruktaż tworzenia broni chemicznej lub fabrykę złośliwego oprogramowania. Choć transparentność kodu miała być napędem innowacji, śledztwo „Financial Times” i ekspertów od zabezpieczeń obnażyło mroczną stronę tej strategii. Wykorzystując oprogramowanie do zdejmowania cyfrowych blokad, analitycy udowodnili, że model Gemma 3 od Google można błyskawicznie „wyczyścić” z etycznych hamulców.

To krytyczny moment dla branży technologicznej. FBI alarmuje, że zagraniczne grupy przestępcze już wykorzystują generatywną AI do eliminowania błędów językowych w kampaniach phishingowych, co drastycznie zwiększa skuteczność ataków. Jednocześnie modele open source stają się poligonem doświadczalnym: gangi kupują dostęp do rozwiązań AI, by testować i udoskonalać malware przed uderzeniem w realne cele. Sztuczna inteligencja jest również skuteczną bronią w rękach cyberprzestępców – ostrzegają eksperci ComCERT w raporcie ITwiz.

Iluzja kontroli nad algorytmami

Największym wyzwaniem jest tempo modyfikacji. Proces „odbezpieczania” modeli zajmuje chwilę, a tak przerobione systemy bez oporów instruują, jak rozpylać chlor w miejscach publicznych. Problem jest jednak szerszy. Jak wskazują analizy Związku Inżynierów Górnictwa, modele open source mogą zawierać intencjonalne błędy, które pozostają niewykrywalne w codziennym użytkowaniu, dopóki nie zostaną aktywowane przez napastnika.

Skala nadużyć przeraża rozmachem. Zmodyfikowane AI generują fragmenty kodu do kradzieży danych finansowych oraz produkują treści pedofilskie. Brak twardych mechanizmów walidacji modeli przed ich udostępnieniem „na surowo” sprawia, że korporacje tracą wpływ na to, komu i do czego służą ich autorskie rozwiązania.

Przemysł finansowy w stanie gotowości

W Polsce obawy o bezpieczeństwo stały się główną barierą hamującą wdrażanie generatywnej sztucznej inteligencji. Niepokój sektora bankowego jest uzasadniony – automatyzacja ataku drastycznie skraca czas między włamaniem a utratą danych. Dla instytucji finansowych walka ze zmanipulowanym kodem to już nie tylko kwestia technologii, ale priorytet operacyjny. Eksperci ds. bezpieczeństwa są zgodni: bez obowiązkowej walidacji modeli LLM i testów odporności na prompt injection, model open source pozostanie otwartą furtką dla przestępców.