Cyberbezpieczeństwo

Obawiano się, że generatywna sztuczna inteligencja zrewolucjonizuje cyberprzestępczość, obniżając bariery wejścia w świat hakerstwa. Badania pokazują jednak, że AI jest obecnie wykorzystywana głównie do masowego produkowania spamu i deepfake’owych zdjęć, a nie skomplikowanych ataków.

Amerykański rząd zyskuje dostęp do niepublikowanych modeli AI od gigantów technologicznych, takich jak Google DeepMind, xAI Elona Muska i Microsoft. Federalni naukowcy sprawdzają, czy zaawansowane algorytmy mogą stać się narzędziem do budowy broni biologicznej lub paraliżowania krytycznej infrastruktury USA.

Model Mythos od Anthropic, zapowiadany jako przełom w automatycznym łataniu podatności, trafił najpierw do rąk wielkich firm technologicznych i instytucji finansowych. W tym samym czasie operatorzy technologii operacyjnych (OT), zarządzający fizyczną infrastrukturą państw, zostali zepchnięci do poczekalni, co budzi sprzeciw i pytania o bezpieczeństwo infrastruktury krytycznej.

Biały Dom podjął inicjatywę zbadania potencjalnych zagrożeń związanych z integracją sztucznej inteligencji w kluczowych systemach technologicznych, stawiając czoła scenariuszom upadku zamiast skupiać się wyłącznie na korzyściach. Urzędnicy pytają gigantów technologicznych o ich gotowość na cyberkryzys napędzany algorytmami.

OpenAI udostępnia program „Trusted Access for Cyber” dla zweryfikowanych jednostek administracji publicznej. Urzędnicy otrzymają dostęp do zmodyfikowanych modeli AI ze znacznie mniejszymi filtrami bezpieczeństwa, co budzi pytania o kontrolę i potencjalne ryzyka.

Australijskie banki zostały ostrzeżone przez regulatora APRA, że ich obecne systemy zabezpieczeń są bezbronne wobec zaawansowanych modeli AI, takich jak Anthropic Claude Mythos. Brak zrozumienia zagrożenia na szczeblu zarządczym grozi destabilizacją sektora finansowego.

OpenAI i Anthropic zaprezentowały w Kongresie USA swoje najnowsze modele cybernetyczne, zdolne do błyskawicznego mapowania błędów w infrastrukturze krytycznej. Rodzi to obawy o bezpieczeństwo narodowe i przyszłość „otwartej” AI. Czy jesteśmy świadkami początku ery wyścigu zbrojeń ukrytego w algorytmach?

Rośnie liczba ataków typu „indirect prompt injection”, gdzie hakerzy ukrywają instrukcje dla modeli językowych w kodzie stron, by przejąć kontrolę nad asystentami AI i systemami płatności. To nowe zagrożenie stwarza poważne wyzwania prawne i bezpieczeństwa.

Rewolucyjny model Claude Mythos Preview od Anthropic zdemolował poczucie bezpieczeństwa największych instytucji finansowych w Wielkiej Brytanii, identyfikując luki w systemach z niespotykaną szybkością. Regulatorzy z City nie czekają na raporty po fakcie i spotykają się w trybie pilnym z ekspertami.

Afera wokół startupu Delve przybiera na sile. Po oskarżeniach o fałszowanie certyfikatów bezpieczeństwa kolejni klienci firmy – w tym Context AI – stają się ogniwami w łańcuchu poważnych incydentów naruszenia danych, co podważa zaufanie do systemów bezpieczeństwa.