Cyberbezpieczeństwo

Postępy w sztucznej inteligencji, mimo obiecujących perspektyw w wielu obszarach, stają się również czynnikiem napędzającym ewolucję cyberprzestępczości. Wzrost liczby zgłaszanych naruszeń bezpieczeństwa systemów teleinformatycznych w Polsce w 2024 roku, w porównaniu do roku poprzedniego, osiągnął ponad 60% – zanotowano ponad 627 tysięcy przypadków. Ten znaczący wzrost, z 391 tysięcy w 2023 roku, jest symptomem głębszych zmian w metodyce ataków, gdzie sztuczna inteligencja odgrywa coraz bardziej centralną rolę.

OpenAI przyznaje, że ataki typu prompt injection, polegające na manipulowaniu agentami AI, stanowią trwałe zagrożenie dla bezpieczeństwa. Firma intensyfikuje obronę swojego agenta AI, ChatGPT Atlas, jednocześnie podkreślając, że pełne rozwiązanie problemu może nigdy nie zostać osiągnięte. Stawia to pod znakiem zapytania bezpieczeństwo działania agentów AI w otwartym internecie.

Hack The Box wprowadza platformę AI Range, umożliwiającą organizacjom testowanie autonomicznych agentów AI w symulowanych środowiskach korporacyjnych, weryfikując ich skuteczność oraz synergię z ludzkimi zespołami obronnymi w obliczu cyberzagrożeń.

Najnowsze badanie Visa wskazuje, że treści tworzone przez sztuczną inteligencję, podszywające się pod reklamy czy wpisy znanych osób, znacząco zwiększają ryzyko utraty pieniędzy przez Polaków. Ofiary oszustw tracą średnio setki złotych, co w skali kraju przekłada się na straty rzędu 1,6 miliarda złotych rocznie.

W obliczu rosnących zagrożeń związanych z deepfake’ami, Resemble AI pozyskało 13 milionów dolarów od inwestorów, takich jak Google, Sony i Okta, aby wzmocnić swoje rozwiązania w zakresie wykrywania fałszywych treści generowanych przez sztuczną inteligencję.

Najnowsze badania firmy Anthropic ujawniły pierwszy przypadek cyberataków orkiestrowanych przez sztuczną inteligencję na dużą skalę, z minimalnym nadzorem człowieka. To fundamentalnie zmienia krajobraz zagrożeń, stawiając przed przedsiębiorstwami bezprecedensowe wyzwania.

OpenAI poinformowało o incydencie bezpieczeństwa u dostawcy analityki Mixpanel. Atakujący wyeksportował ograniczony zestaw danych identyfikacyjnych i technicznych, jednak systemy OpenAI – w tym historia czatów, zapytania do API, poświadczenia i dane transakcyjne – pozostały nienaruszone. Firma wycofała Mixpanel ze swoich aplikacji webowych i zapowiada bezpośrednie powiadomienia dla poszkodowanych.