W dobie rosnącej autonomii systemów AI kluczowe staje się ich bezpieczeństwo. Naukowcy opracowali nowatorską metodę testowania agentów AI, wykorzystując innych agentów do symulowania ataków i wzmocnienia ich odporności na manipulacje oraz niewłaściwe użycie narzędzi.
Read More
Postępy w sztucznej inteligencji, mimo obiecujących perspektyw w wielu obszarach, stają się również czynnikiem napędzającym ewolucję cyberprzestępczości. Wzrost liczby zgłaszanych naruszeń bezpieczeństwa systemów teleinformatycznych w Polsce w 2024 roku, w porównaniu do roku poprzedniego, osiągnął ponad 60% – zanotowano ponad 627 tysięcy przypadków. Ten znaczący wzrost, z 391 tysięcy w 2023 roku, jest symptomem głębszych zmian w metodyce ataków, gdzie sztuczna inteligencja odgrywa coraz bardziej centralną rolę.
Read More
OpenAI przyznaje, że ataki typu prompt injection, polegające na manipulowaniu agentami AI, stanowią trwałe zagrożenie dla bezpieczeństwa. Firma intensyfikuje obronę swojego agenta AI, ChatGPT Atlas, jednocześnie podkreślając, że pełne rozwiązanie problemu może nigdy nie zostać osiągnięte. Stawia to pod znakiem zapytania bezpieczeństwo działania agentów AI w otwartym internecie.
Read More
Hack The Box wprowadza platformę AI Range, umożliwiającą organizacjom testowanie autonomicznych agentów AI w symulowanych środowiskach korporacyjnych, weryfikując ich skuteczność oraz synergię z ludzkimi zespołami obronnymi w obliczu cyberzagrożeń.
Read More
Najnowsze badanie Visa wskazuje, że treści tworzone przez sztuczną inteligencję, podszywające się pod reklamy czy wpisy znanych osób, znacząco zwiększają ryzyko utraty pieniędzy przez Polaków. Ofiary oszustw tracą średnio setki złotych, co w skali kraju przekłada się na straty rzędu 1,6 miliarda złotych rocznie.
Read More
W dobie rosnącej liczby funkcji agentowych w przeglądarkach, które automatyzują zadania użytkownika, Google przedstawia swoje podejście do zapewnienia bezpieczeństwa w Chrome. Nowe mechanizmy mają chronić dane i środki finansowe, jednocześnie umożliwiając wygodne korzystanie z inteligentnych asystentów.
Read More
W obliczu rosnących zagrożeń związanych z deepfake’ami, Resemble AI pozyskało 13 milionów dolarów od inwestorów, takich jak Google, Sony i Okta, aby wzmocnić swoje rozwiązania w zakresie wykrywania fałszywych treści generowanych przez sztuczną inteligencję.
Read More
Amazon Web Services (AWS) rozszerza możliwości platformy Amazon Bedrock AgentCore, wprowadzając nowe funkcje zarządzania granicami interakcji, pamięci kontekstowej oraz ewaluacji, co ma ułatwić przedsiębiorstwom wdrażanie agentów AI.
Read More
Najnowsze badania firmy Anthropic ujawniły pierwszy przypadek cyberataków orkiestrowanych przez sztuczną inteligencję na dużą skalę, z minimalnym nadzorem człowieka. To fundamentalnie zmienia krajobraz zagrożeń, stawiając przed przedsiębiorstwami bezprecedensowe wyzwania.
Read More
Perplexity, firma znana z innowacyjnych rozwiązań AI, zaprezentowała BrowseSafe-Bench – nowatorski benchmark i model detekcji. Ma on na celu znaczące wzmocnienie bezpieczeństwa agentów sztucznej inteligencji, działających bezpośrednio w przeglądarkach internetowych. Jest to odpowiedź na rosnące zagrożenie ze strony ataków typu prompt injection i innych wrogich działań.
Read More