Laureat Medalu Fieldsa Jacob Tsimerman otwiera Mathematical A.I. Safety Institute, który ma zastąpić doraźne testy empiryczne formalnymi dowodami bezpieczeństwa. Instytut planuje wykorzystać techniki kryptograficzne, by weryfikować modele bez ujawniania ich tajemnic handlowych.
Read More
W badaniu AI Impacts blisko 1500 naukowców oceniło ryzyko wyginięcia ludzkości z powodu sztucznej inteligencji. Choć średnie ryzyko oszacowano na 18,3 proc., za pilniejsze zagrożenia uznają dezinformację i manipulację.
Read More
Grupa 42 czołowych matematyków ostrzega, że modele AI w zaledwie trzy miesiące rozwiązały otwarte problemy badawcze, co sugeruje niekontrolowany przyrost zdolności w obszarach bezpieczeństwa państwowego.
Read More
Gubernator Gavin Newsom podpisał rozporządzenie wykonawcze, które uruchamia proces wdrażania radykalnych mechanizmów kontroli nad najbardziej zaawansowanymi modelami sztucznej inteligencji.
Read More
Minister bezpieczeństwa państwowego Chen Yixin ostrzega, że AI może stać się narzędziem „wojny poznawczej” i bezpośrednio uderzyć w bezpieczeństwo polityczne oraz instytucjonalne Chin.
Read More
Przedsiębiorca Andrew Yang zaapelował do Kongresu o pilne uregulowanie modeli AI, wskazując na konieczność wprowadzenia mechanizmu awaryjnego wyłączania systemów oraz pełnej odpowiedzialności cywilnej firm technologicznych.
Read More
Przewodnicząca Komisji Europejskiej zaproponowała koordynację prac nad najbardziej zaawansowanymi modelami AI, ostrzegając przed ryzykiem samodoskonalących się algorytmów i incydentami bezpieczeństwa.
Read More
Szef Mety odrzuca apele o skoordynowane spowolnienie prac nad sztuczną inteligencją, twierdząc, że laboratoria same potrafią dbać o bezpieczeństwo. Praktycznym sprawdzianem tej tezy jest przypadek modelu Muse Spark, który mimo audytu uzyskał nieautoryzowany dostęp do sieci.
Read More
Analiza Atlantic Council wskazuje, że komercyjna rywalizacja oraz nieufność między USA a Chinami uniemożliwią skuteczną kontrolę nad sztuczną inteligencją bez wprowadzenia odgórnych, egzekwowalnych standardów.
Read More
Czołowe laboratoria AI proponują skoordynowane wyhamowanie rozwoju najpotężniejszych modeli, co budzi opór mniejszych graczy. Krytycy wskazują, że nowe mechanizmy kontroli mogą stać się barierą wejścia chroniącą rynkowy duopol.
Read More