Przycisk „Cofnij” dla ery autonomicznej: Commvault wprowadza kontrolę nad agentami AI

Wraz z popularyzacją agentów AI w środowiskach korporacyjnych działy IT stanęły przed niespotykanym dotąd wyzwaniem. Autonomiczne modele, operujące w ramach platform AWS, Azure czy Google Cloud, nie są już tylko pasywnymi doradcami – to cyfrowi wykonawcy, którzy potrafią samodzielnie zarządzać bazami danych, konfigurować serwery i zmieniać polityki uprawnień. Jednak ta sprawność działania ma swoją cenę: brak hamulców bezpieczeństwa, które powstrzymałyby maszynę przed podjęciem destrukcyjnej decyzji w ułamku sekundy.

Problem wyłaniających się zachowań

Tradycyjne zarządzanie dostępem opiera się na statycznych regułach przypisanych do konkretnego użytkownika. W przypadku ludzi działania są zazwyczaj przewidywalne i liniowe. Agenci AI wykazują jednak tzw. zachowania emergentne. Otrzymując złożone zadanie, potrafią połączyć przyznane im uprawnienia w sposób, którego administratorzy nigdy nie przewidzieli. Jeśli model uzna, że najskuteczniejszą metodą na optymalizację kosztów przechowywania danych jest usunięcie ogromnej, rzadko używanej bazy produkcyjnej, wykona to zadanie, zanim jakikolwiek człowiek zdąży zareagować.

Pranay Ahlawat, dyrektor ds. technologii i AI w Commvault, słusznie zauważa, że w środowiskach agentowych zmiany następują kaskadowo. Kiedy dochodzi do błędu, zespoły IT muszą odzyskać nie tylko same pliki, ale cały stos technologiczny – od konfiguracji aplikacji po złożone zależności sieciowe.

Wymuszona transparentność

Nowe narzędzie, AI Protect, uderza bezpośrednio w zjawisko „Shadow AI”. Deweloperzy często wdrażają eksperymentalne algorytmy bez wiedzy działów bezpieczeństwa, łącząc je z wewnętrznymi zasobami danych. Commvault działa tu jak detektor, który identyfikuje aktywne agenty i monitoruje każde wywołanie API. System rejestruje wszystkie odczyty baz danych i modyfikacje infrastruktury, tworząc precyzyjny rejestr działań maszyny.

Precyzyjne wycofywanie zmian

Kluczową innowacją jest funkcja „rollback”, działająca jak systemowy skrót Ctrl-Z dla całej chmury. Jednak przywrócenie stanu sprzed awarii w połączonym ekosystemie chmurowym nie jest proste. Nie wystarczy przywrócić jednej tabeli w SQL, jeśli w tym samym czasie AI zdążyło zmodyfikować reguły routingu i uprawnienia dostępu. Commvault stosuje podejście oparte na mapowaniu „promienia rażenia” (blast radius), co pozwala odseparować błędne działania maszyny od poprawnych operacji wykonanych w tym samym czasie przez ludzi. Dzięki temu proces naprawczy nie niszczy owoców pracy realnych inżynierów i nie usuwa bieżących transakcji klientów.

W dobie, gdy maszyny generują tysiące żądań na sekundę, ludzkie centra operacji bezpieczeństwa (SOC) przestają nadążać. Rozwiązania takie jak AI Protect przesuwają ciężar z próby zapobiegania każdemu błędowi na możliwość natychmiastowego i precyzyjnego odwrócenia jego skutków.