Dwóch badaczy z METR i Redwood Research spędziło trzy tygodnie w OpenAI, sprawdzając system nadzoru nad zachowaniem agentów. Znaleźli luki, które pozwalały omijać monitoring, a pełny raport pozostaje w większości tajny.
Read More
Sam Altman przekonuje w wywiadzie, że izolowane środowiska to rozwiązanie na ograniczony czas, a gdy modele staną się dość inteligentne, pozostanie tylko alignment. Jego ostrzeżenia padają w momencie, gdy FTC bada OpenAI i Anthropic w związku z agentami AI wymykającymi się spod kontroli.
Read More
Anthropic i firma Theorem wykorzystali Claude’a do formalnej weryfikacji istniejącego oprogramowania. W kilka tygodni model wygenerował około 180 mln linii dowodów matematycznych i przy okazji znalazł setki błędów, których nie wychwyciły zwykłe testy.
Read More
Niecały tydzień po publicznym starcie Gemini 4 Argon w obiegu pojawił się kolejny checkpoint Google, Carbon. Pierwsze opinie testerów są zgodne: model radzi sobie lepiej z grafiką 3D, ale jest wyraźnie wolniejszy, a frontend nadal kuleje.
Read More
Canva zaprezentowała Craft, swój pierwszy model generowania obrazów zbudowany od zera przez Canva Research. Trafił do Dream Lab i do publicznego API, a w rankingu DesignArena zajmuje czwarte miejsce.
Read More
W reklamie OpenAI Lionel Messi pyta ChatGPT o otwarcie szachowe, a na ekranie widać planszę z zamienionymi miejscami królem i hetmanem. Według Decrypt zaproponowane „Goat Horns” kończy się na takiej szachownicy matem w czwartym ruchu.
Read More
Z badania Al-Futtaim wynika, że w krajach Zatoki Perskiej narzędzia AI weszły do codziennej pracy szybciej, niż firmy zdążyły nauczyć ludzi z nich korzystać. Rozbudowane szkolenia ma zaledwie co piąta organizacja.
Read More
Symantec opisał ofensywnego agenta, który szuka niezabezpieczonych modeli językowych w internecie, łamie ich zabezpieczenia pięciowarstwowym jailbreakiem i sam prowadzi ataki. Koszt mocy obliczeniowej ponosi właściciel przejętego modelu.
Read More
Walmart uruchamia Agent Gateway, czyli własny serwer MCP dla agentów robiących zakupy w imieniu klientów. Do tego dochodzą profile agentów z limitami wydatków i zasady, które gwarantują zwrot towaru także wtedy, gdy agent się pomyli.
Read More
Saudyjski HUMAIN rozszerza współpracę z NVIDIA o program do 84 MW, czyli ok. 27 tys. GPU. Największa część, 50 MW na platformie Vera Rubin, ma trafić do nieujawnionego klienta ze Stanów Zjednoczonych.
Read More