Matematyczny dowód na ryzyko AI? Wybitni naukowcy wzywają do alarmu

Grupa 42 wybitnych naukowców, w tym laureaci Medalu Fieldsa — Martin Hairer, Peter Scholze i Wendelin Werner — skierowała list otwarty do prezesa Towarzystwa Królewskiego (Royal Society). Adresatem listu jest Sir Paul Nurse, prezes Towarzystwa Królewskiego. Naukowcy wzywają go do oficjalnego ogłoszenia stanu zagrożenia związanego ze sztuczną inteligencją. Sygnatariusze apelują do akademii o podjęcie roli lidera w uświadamianiu decydentów o skali wyzwań, jakie niosą ze sobą nadludzkie zdolności systemów autonomicznych. Wzywają oni brytyjską akademię nauk do natychmiastowego zaalarmowania rządu oraz opinii publicznej o egzystencjalnym ryzyku związanym z rozwojem sztucznej inteligencji. Co istotne, sygnatariusze to niezależni badacze niepowiązani z korporacjami technologicznymi.

Bezpośrednim powodem wystąpienia nie są ogólne obawy, lecz konkretne osiągnięcia techniczne modeli opracowanych przez OpenAI i Anthropic. Według autorów listu, systemy te w ciągu około trzech miesięcy rozwiązały otwarte problemy badawcze, w tym prawdopodobnie jeden z siedmiu słynnych problemów milenijnych. Matematycy oceniają, że algorytmy działają już na poziomie najlepszych ludzkich ekspertów, a tempo ich rozwoju sugeruje możliwość osiągnięcia zdolności nadludzkich w bardzo krótkim czasie.

Od teorii liczb do bezpieczeństwa narodowego

Sygnatariusze argumentują, że przełom w czystej matematyce jest sygnałem ostrzegawczym dla innych, bardziej wrażliwych sektorów. Ich zdaniem podobnego, gwałtownego przyrostu możliwości AI należy się spodziewać w obszarach, gdzie skutki nie będą miały charakteru wyłącznie akademickiego. Wymieniają tu przede wszystkim:

• Cyberbezpieczeństwo i automatyzację ataków na infrastrukturę;
• Rozwój i sterowanie bronią autonomiczną;
• Projektowanie nowych czynników biologicznych i chemicznych;
• Masową, zautomatyzowaną dezinformację.

W treści listu naukowcy zwracają uwagę na szacunki pochodzące z samych laboratoriów AI, które określają ryzyko egzystencjalne na poziomie przekraczającym 10 procent. Autorzy podkreślają, że tak wysokie prawdopodobieństwo katastrofalnych skutków nie może być dłużej ignorowane ani traktowane jako czysto marketingowy szum.

Matematycy ostrzegają, że specyfika rozwoju AI polega na nagłych skokach wydajności, które trudno przewidzieć. Argumentują, że kiedy zagrożenie stanie się oczywiste dla szerokiej publiczności, może być już za późno na wprowadzenie skutecznych mechanizmów kontrolnych i prawnych.