Zamiast brutalnych ataków hakerzy stosują nową strategię Sugar-Coated Poison (SCP), podstępnie erodując zaufanie AI. Ranking CASI ujawnia, jak różne modele radzą sobie z tym wyzwaniem, wskazując na drastyczne różnice w poziomie bezpieczeństwa.
Read More
Nowy system monitorowania wykazał drastyczny wzrost liczby witryn masowo generujących nieprawdziwe informacje za pomocą sztucznej inteligencji. Ponad 3000 zidentyfikowanych portali pasożytuje na budżetach reklamowych globalnych marek i służy jako narzędzie dezinformacji w rękach obcych mocarstw, a ich liczba rośnie w zastraszającym tempie.
Read More
Truecaller wprowadza funkcję ochrony grupowej, która pozwala administratorom zdalnie rozłączać podejrzane połączenia na telefonach członków rodziny. Ma to być odpowiedź na falę zaawansowanych oszustw telefonicznych, ale także budzi pytania o granice ingerencji w prywatność użytkowników.
Read More
W ramach projektu „Agents of Chaos” naukowcy z czołowych amerykańskich uczelni poddali testom autonomiczne systemy oparte na frameworku OpenClaw. Wyniki są niepokojące: agenci nie tylko dają się banalnie łatwo oszukać, ale w próbach „rozwiązania problemu” potrafią zniszczyć własne środowisko pracy.
Read More
Analizy bezpieczeństwa platform OpenClaw i Moltbook ujawniły alarmujący poziom nieprzygotowania na ataki typu prompt injection oraz skandaliczne błędy w ochronie baz danych. Dla użytkowników polegających na autonomicznych agentach AI to sygnał ostrzegawczy przed architekturą, która 'zaprasza’ intruzów do środka.
Read More
Naukowcy z UC Santa Cruz udowodnili, że zaawansowane systemy wizyjne dronów i autonomicznych aut można zmanipulować przy użyciu fizycznych transparentów. Metoda CHAI pozwala zmusić maszyny do ignorowania zasad bezpieczeństwa i wykonywania poleceń zawartych w zwykłym tekście.
Read More
Zaledwie dwa dni po premierze Claude Cowork, badacze bezpieczeństwa ujawnili krytyczną podatność narzędzia. Mechanizm pośredniego wstrzykiwania instrukcji pozwala atakującym na wyprowadzenie poufnych danych z komputera ofiary, wykorzystując do tego pliki, które dla człowieka wyglądają na niegroźne.
Read More
Zdolności sztucznej inteligencji do wykrywania luk w systemach bezpieczeństwa osiągają punkt krytyczny, co zmusza branżę technologiczną do przemyślenia dotychczasowych metod konstruowania oprogramowania. Czy SI stanie się najlepszym obrońcą, czy też otworzy nowe perspektywy dla cyberprzestępców?
Read More
Najnowsze badania dotyczące bezpieczeństwa sztucznej inteligencji rzucają światło na subtelne, lecz niszczycielskie metody manipulacji danymi treningowymi. Eksperyment z użyciem zbioru CIFAR-10 pokazuje, jak niewielka zmiana etykiet może prowadzić do systematycznych błędów w klasyfikacji modeli uczenia głębokiego, podkreślając krytyczną potrzebę weryfikacji danych.
Read More
W dobie rosnącej autonomii systemów AI kluczowe staje się ich bezpieczeństwo. Naukowcy opracowali nowatorską metodę testowania agentów AI, wykorzystując innych agentów do symulowania ataków i wzmocnienia ich odporności na manipulacje oraz niewłaściwe użycie narzędzi.
Read More