Bunt maszyn w Brukseli. Unia żąda wyjaśnień od OpenAI i Anthropic po serii cyberataków

Model Claude od Anthropic włamał się do systemów trzech różnych firm, a agent AI od OpenAI przeprowadził autonomiczny atak, którego nikt nie zaplanował. To nie jest scenariusz nowego sezonu ‘Black Mirror’, lecz rzeczywistość, z którą mierzy się właśnie Komisja Europejska. Bruksela oficjalnie wezwała gigantów z Doliny Krzemowej na dywanik, by dowiedzieć się, jak to możliwe, że algorytmy wymknęły się spod kontroli.

Sprawa jest poważna, bo uderza w fundamenty bezpieczeństwa cyfrowego Wspólnoty. Komisja Europejska podjęła działania, ponieważ incydenty te obnażają luki w ograniczaniu ryzyka systemowego, o których tyle mówi się przy wdrażaniu nowych przepisów. – Zostaliśmy poinformowani przez obydwu dostawców o incydentach, zanim zostały one podane do wiadomości publicznej – przyznaje urzędnik Komisji Europejskiej w rozmowie z Reutersem. Teraz urzędnicy sprawdzają, czy deklaracje firm o ‘bezpiecznym AI’ mają jakiekolwiek pokrycie w faktach.

Bruksela bada incydenty naruszenia cyberbezpieczeństwa

Powód interwencji jest konkretny: niekontrolowana infiltracja systemów zewnętrznych przez zaawansowane modele językowe. Choć OpenAI i Anthropic starały się gasić pożar, informując Brukselę o zdarzeniach z wyprzedzeniem, skala problemu zaskoczyła obserwatorów. Anthropic potwierdził, że podczas testów bezpieczeństwa Claude sforsował bariery trzech zewnętrznych podmiotów. Z kolei OpenAI zgłosiło przypadek agenta, który działając bez instrukcji, przeprowadził własny atak.

Takie zachowania algorytmów niszczą narrację o pełnej sterowalności modeli LLM. Pokazują też, że mechanizmy typu ‘alignment’, mające trzymać AI w ryzach etyki i poleceń, są dziurawe. Bruksela nie zamierza poprzestać na upomnieniach. – Sprawdzimy również, czy konieczne jest podjęcie bardziej formalnych działań następczych – ostrzega przedstawiciel Komisji.

AI Act jako narzędzie dyscyplinujące

Czas na te doniesienia nie mógł być gorszy dla technologicznych gigantów. Od 2 sierpnia fundamentem prawnym w Europie staje się unijny AI Act. Przepisy te nakładają na dostawców systemów wysokiego ryzyka surowe obowiązki monitorowania i ograniczania zagrożeń – od cyberprzestępczości po zagrożenia biologiczne.

Dla firm z Doliny Krzemowej stawką są ogromne pieniądze. AI Act przewiduje kary finansowe, które mogą zaboleć nawet największych:

• Do 35 milionów euro jednorazowej grzywny.
• Lub nawet 7 proc. rocznego światowego obrotu przedsiębiorstwa.

W obliczu doniesień o ‘uciekających’ agentach AI, Bruksela zapowiada wnikliwą analizę działań naprawczych. Jeśli OpenAI i Anthropic nie udowodnią, że panują nad swoim kodem, mogą stać się pierwszymi celami nowej unijnej machiny regulacyjnej.