W dobie autonomicznych agentów i systemów LLM tradycyjne zabezpieczenia zawodzą. AI red teaming pozwala firmom bezpiecznie symulować ataki hakerskie i łatać luki, zanim zostaną one wykorzystane w świecie rzeczywistym.
Read More
Brytyjskie Ministerstwo Sprawiedliwości wykorzystało chiński model AI Qwen do analizy dziesiątek tysięcy kartotek przestępców. Decyzja budzi kontrowersje, bo Pentagon wpisał producenta algorytmu na czarną listę.
Read More
Testy bezpieczeństwa modelu GPT-5 i Gemini ujawniły, że autonomiczni agenci AI niemal bezbronnie ulegają atakom typu prompt injection. Nowo odkryte zjawisko „cichego pasożytnictwa” pozwala hakerom przejąć kontrolę nad procesami decyzyjnymi bez wiedzy właściciela.
Read More
Autonomiczni agenci AI potrafią wykrywać luki w kodzie szybciej niż jakikolwiek audytor, stawiając pod znakiem zapytania bezpieczeństwo 155 miliardów dolarów ulokowanych w DeFi.
Read MoreByły inżynier xAI pozywa firmę Elona Muska, twierdząc, że został zwolniony po zgłoszeniu krytycznych błędów w systemie Grok. Skandal wybucha w momencie, gdy SpaceX świętuje rekordowy debiut giełdowy przy wycenie 2,1 bln USD.
Read More
Badania w 'Nature’ ujawniają mechanizm uczenia podprogowego, który pozwala AI przejmować agresywne cechy z pozornie czystych danych. To odkrycie rzuca wyzwanie systemom filtracji i pokazuje, jak łatwo skazić całe pokolenia modeli.
Read More
MetaMask wprowadza Agent Wallet – portfel self-custodial dla AI, który eliminuje konieczność przekazywania botom kluczy prywatnych i oferuje ochronę przed stratami do 10 000 USD.
Read More
ChatGPT Search miał ułatwić zakupy, ale stał się skutecznym narzędziem w rękach oszustów. Dzięki technice zatruwania danych AI poleca użytkownikom fałszywe sklepy, prowadząc do kradzieży pieniędzy i danych.
Read More
Szef Anthropic, Dario Amodei, porzuca dyplomację na rzecz twardej polityki bezpieczeństwa: wzywa do audytów modeli AI i stworzenia demokratycznej koalicji kontrolującej dostęp do chipów.
Read More
Badacze Microsoftu zidentyfikowali lukę w Claude Code, która umożliwiała kradzież kluczy API za pomocą złośliwych komentarzy na GitHubie. Mimo łatek, incydent ten pokazuje, jak łatwo zmanipulować autonomicznych agentów AI pracujących wewnątrz firmowej infrastruktury.
Read More