Bezpieczeństwo AI wychodzi z serwerowni do zarządu. Czy firmy kontrolują własne modele?

Wdrożenie sztucznej inteligencji w przedsiębiorstwie przestało być wyłącznie domeną innowacji, a stało się krytycznym wyzwaniem z zakresu cyberbezpieczeństwa. Francis de Souza, dyrektor operacyjny Google Cloud, podczas spotkania w Los Angeles postawił sprawę jasno: strategia AI jest nierozerwalnie związana ze strategią danych i ochrony zasobów. Jego zdaniem bezpieczeństwo nie może być traktowane jako opcjonalny dodatek, lecz musi stanowić fundament projektu już od pierwszego dnia pracy nad nowym modelem.

Temat trafia na agendę zarządów, ponieważ firmy masowo wdrażają autonomicznych agentów do krytycznych procesów. Jednocześnie rośnie presja regulacyjna – od RODO po nadchodzący AI Act – która wymusza na organizacjach precyzyjne mapowanie przepływu informacji. Bezpieczeństwo AI przestało być technicznym detalem, a stało się warunkiem ciągłości biznesowej.

Nowy wymiar zagrożeń: Shadow AI i zapomniane dane

Największym ryzykownym czynnikiem okazują się nie tylko luki w kodzie, ale przede wszystkim ludzka natura i rozproszona infrastruktura. Zjawisko „shadow AI”, czyli korzystanie przez pracowników z zewnętrznych narzędzi bez nadzoru IT, otwiera niekontrolowane kanały wycieku. Pracownicy często wklejają poufne informacje, takie jak dane osobowe klientów, kod źródłowy czy plany biznesowe do narzędzi typu ChatGPT, nie zdając sobie sprawy, że dane te mogą posłużyć do trenowania publicznych modeli. Według ekspertów z LayerX Security, ten brak kontroli omija klasyczne zapory typu firewall czy systemy DLP.

Co więcej, inteligentne agenty, przeszukując wewnętrzne zasoby firmy, potrafią dotrzeć do dawno zapomnianych źródeł, takich jak archiwalne serwery SharePoint. Jeśli agent otrzyma zbyt szerokie uprawnienia (tzw. over-privileged access), jeden błąd może dać mu globalny dostęp do systemów, do których nigdy nie powinien zaglądać.

Od ośmiu godzin do 22 sekund

Dynamika współczesnych cyberataków wymusza zmianę paradygmatu obronnego. Statystyki przytoczone przez de Souzę są bezlitosne: czas między wstępnym przełamaniem zabezpieczeń a kolejną fazą ataku skrócił się z ośmiu godzin do zaledwie 22 sekund. W tak krótkim oknie czasowym człowiek nie jest w stanie zareagować. Rozwiązaniem ma być „obrona agentowa” – autonomiczne systemy, które odpierają ataki w czasie rzeczywistym, podczas gdy ludzie pełnią jedynie rolę nadzorczą.

Obszar wymagający ochrony drastycznie się rozszerzył. Dzisiejsza powierzchnia ataku obejmuje potoki danych szkoleniowych, same modele oraz prompty wysyłane przez użytkowników. De Souza podkreśla, że nawet firmy deklarujące korzystanie z usług jednego dostawcy, de facto działają w środowisku multicloud poprzez integracje SaaS. Jak zauważa EY Polska, konieczne jest ścisłe powiązanie strategii AI z zarządzaniem ryzykiem cybernetycznym, by uniknąć sytuacji, w której darmowe, niezweryfikowane narzędzia doprowadzą do problemów licencyjnych lub naruszenia przepisów takich jak RODO czy HIPAA.