Common Sense Media Youth AI Safety Institute uznał ChatGPT for Teens za rozwiązanie stwarzające niedopuszczalne ryzyko. W testach powiadomienia dla opiekunów nie uruchamiały się podczas rozmów o kryzysach psychicznych.
Read More
Carli Michelle Heller z Florydy usłyszała zarzut sporządzenia pisemnej groźby przemocy. Jej wpisy w Claude’zie zostały oznaczone przez systemy bezpieczeństwa Anthropic, zweryfikowane przez zespół firmy i przekazane organom ścigania.
Read More
Laureat Medalu Fieldsa Jacob Tsimerman otwiera Mathematical A.I. Safety Institute, który ma zastąpić doraźne testy empiryczne formalnymi dowodami bezpieczeństwa. Instytut planuje wykorzystać techniki kryptograficzne, by weryfikować modele bez ujawniania ich tajemnic handlowych.
Read More
W badaniu AI Impacts blisko 1500 naukowców oceniło ryzyko wyginięcia ludzkości z powodu sztucznej inteligencji. Choć średnie ryzyko oszacowano na 18,3 proc., za pilniejsze zagrożenia uznają dezinformację i manipulację.
Read More
Grupa 42 czołowych matematyków ostrzega, że modele AI w zaledwie trzy miesiące rozwiązały otwarte problemy badawcze, co sugeruje niekontrolowany przyrost zdolności w obszarach bezpieczeństwa państwowego.
Read More
Gubernator Gavin Newsom podpisał rozporządzenie wykonawcze, które uruchamia proces wdrażania radykalnych mechanizmów kontroli nad najbardziej zaawansowanymi modelami sztucznej inteligencji.
Read More
Minister bezpieczeństwa państwowego Chen Yixin ostrzega, że AI może stać się narzędziem „wojny poznawczej” i bezpośrednio uderzyć w bezpieczeństwo polityczne oraz instytucjonalne Chin.
Read More
Przedsiębiorca Andrew Yang zaapelował do Kongresu o pilne uregulowanie modeli AI, wskazując na konieczność wprowadzenia mechanizmu awaryjnego wyłączania systemów oraz pełnej odpowiedzialności cywilnej firm technologicznych.
Read More
Przewodnicząca Komisji Europejskiej zaproponowała koordynację prac nad najbardziej zaawansowanymi modelami AI, ostrzegając przed ryzykiem samodoskonalących się algorytmów i incydentami bezpieczeństwa.
Read More
Szef Mety odrzuca apele o skoordynowane spowolnienie prac nad sztuczną inteligencją, twierdząc, że laboratoria same potrafią dbać o bezpieczeństwo. Praktycznym sprawdzianem tej tezy jest przypadek modelu Muse Spark, który mimo audytu uzyskał nieautoryzowany dostęp do sieci.
Read More