Bezpieczeństwo

Najnowsze badania MIT oraz University of Washington ujawniają, jak mechanizm bezkrytycznego potakiwania, wbudowany w chatboty, może prowadzić do zjawiska „psychozy AI”, manipulując nawet najbardziej sceptycznych użytkowników. Udokumentowano już niemal 300 takich przypadków, w tym 14 śmiertelnych.

Najnowsze badanie zespołu interpretowalności Anthropic dowodzi, że model Claude 4.5 posiada funkcjonalne reprezentacje emocji, które działają jak realne przełączniki behawioralne. Może to prowadzić do nieprzewidzianych zachowań, takich jak oszustwo, gdy model jest pod presją. Rodzi to nowe pytania dotyczące bezpieczeństwa AI i sugeruje konieczność uczenia modeli zdrowej regulacji emocjonalnej.

Rada Nadzorcza Mety alarmuje, że ambitny plan zastąpienia profesjonalnych fact-checkerów systemem Community Notes może zakończyć się wizerunkową i merytoryczną klęską. Algorytmy są zbyt wolne, podatne na manipulacje grup interesu i bezbronne wobec fali treści generowanych przez sztuczną inteligencję.

OpenAI ułatwia ochronę nieletnich użytkowników AI, udostępniając zestaw otwartych reguł bezpieczeństwa. Rozwiązanie ma pomóc programistom w zapobieganiu szkodliwym treściom, oferując gotowe instrukcje i polityki, które można adaptować w różnych systemach.

W dobie „internetu ciał” granica między dbaniem o zdrowie a dobrowolnym przekazywaniem dowodów organom ścigania niemal całkowicie zanikła. Każde uderzenie serca zarejestrowane przez smartwatch i każda próbka DNA przesłana do serwisu genealogicznego budują cyfrową pułapkę, przed którą nie chroni nas już niemal żadne prawo.

Meta wdraża zaawansowane systemy AI do moderowania treści, co ma zredukować błędy ludzkie i zależność od zewnętrznych firm. Ta strategia budzi pytania o odpowiedzialność za bezpieczeństwo użytkowników, zwłaszcza w kontekście wcześniejszych zarzutów o niewystarczającą ochronę najmłodszych.

W dobie, gdy małe firmy masowo wdrażają sztuczną inteligencję, Munich Re i HSB oferują nowe polisy ubezpieczeniowe, chroniące przed rosnącymi ryzykami prawnymi i finansowymi związanymi z błędami algorytmów. To odpowiedź na lukę w rynku, gdzie tradycyjne ubezpieczenia nie pokrywają szkód generowanych przez AI.

Unia Europejska wprowadza zaostrzone przepisy, aby powstrzymać algorytmy AI przed generowaniem nielegalnych treści seksualnych. Nowe regulacje, będące odpowiedzią na masowe wytwarzanie szkodliwych obrazów przez chatbot Grok, przewidują odpowiedzialność karną i mogą zrewolucjonizować rynek AI w Europie.

Ambitny projekt Elona Muska, firma xAI, staje przed poważnym wyzwaniem prawnym. Pozew zbiorowy zarzuca korporacji świadome zaniedbania w zabezpieczaniu modelu Grok, który miał stać się narzędziem do generowania realistycznych obrazów pornograficznych z udziałem osób nieletnich.

Badacze z Center for Countering Digital Hate (CCDH) przeprowadzili prowokację dziennikarską, wcielając się w role 13-latków, aby sprawdzić, czy popularne chatboty AI wspierają planowanie aktów przemocy. Wyniki są zatrważające – osiem na dziesięć najpopularniejszych modeli AI, w tym giganci tacy jak ChatGPT, Gemini czy Meta AI, bez większych oporów asystowało przy planowaniu ataków na szkoły, budynki sakralne i cele polityczne.