Setki szkiców dowodów od OpenAI wywołały spór. AHM wzywa do bojkotu
Udostępnienie przez OpenAI ponad 700 plików zawierających wygenerowane przez sztuczną inteligencję materiały matematyczne wywołało ostry spór w środowisku naukowym. Association for Human Mathematics (AHM) wezwało badaczy do zaprzestania współpracy z firmą, zarzucając jej naruszenie zasad rzetelnej pracy badawczej i przerzucanie na społeczność akademicką ciężaru sprawdzania oraz objaśniania surowych wyników. W oświadczeniu opublikowanym na blogu Terence’a Tao organizacja określiła publikację nie jako dorobek naukowy, lecz jako „pokaz siły”.
Spór nie dotyczy wyłącznie tego, czy sztuczna inteligencja potrafi dojść do poprawnych wniosków, ale przede wszystkim tego, czym jest dowód matematyczny i kto ponosi koszt doprowadzenia go do zrozumiałej postaci. Wiele udostępnionych przez OpenAI tekstów to skomplikowane i nieprzejrzyste szkice, których nie da się zweryfikować bez wielotygodniowej analizy.
Problem z czytelnością i weryfikacją
Skalę trudności ilustruje przypadek hipotezy Unique Games, jednego z kluczowych otwartych problemów w informatyce teoretycznej. W udostępnionym przez OpenAI pakiecie znalazł się materiał zawierający rzekomy dowód tej hipotezy. Dana Moshkovitz, która poświęciła temu zagadnieniu całą karierę naukową, opisała szkic jako tak niejasny i chaotyczny, że nie dało się go czytać bez pomocy narzędzi AI. Tekst powoływał się na liczne pozycje z literatury bez wyjaśnienia ich roli i wprowadzał konstrukcje trudne do osadzenia w dotychczasowej wiedzy. Sam fakt opublikowania takiego szkicu nie pozwala ocenić, czy dowód jest poprawny.
Podobna niepewność dotyczy pozostałych materiałów. OpenAI udostępniło surowe pliki, pozostawiając matematykom zadanie ustalenia, które z nich zawierają kompletne i poprawne rozumowania, a które są jedynie częściowymi próbami lub zawierają błędy.
Dwa podejścia do publikacji wyników
W dyskusji nad publikacją OpenAI często przywoływane jest odmienne podejście zastosowane przez firmę Anthropic. Gdy jej model podsunął kluczowy pomysł pozwalający obalić dwie wieloletnie hipotezy algorytmiczne, firma podjęła współpracę z dwojgiem badaczy. Naukowcy otrzymali wynagrodzenie i zajęli się przełożeniem wygenerowanego pomysłu na pełny, rygorystyczny i zrozumiały dla ludzi dowód matematyczny.
Oba modele budzą jednak pytania. W podejściu OpenAI nieodpłatną pracę weryfikacyjną przerzuca się na przedstawicieli całej dyscypliny, z kolei w modelu Anthropic to prywatna korporacja decyduje, którzy badacze stają się pośrednikami między algorytmem a środowiskiem naukowym.
Podział w środowisku akademickim
Apel AHM o bojkot OpenAI nie spotkał się z jednomyślnym poparciem matematyków. Część środowiska zgadza się ze stanowiskiem stowarzyszenia, obawiając się, że zalew niezweryfikowanych szkiców zdezorganizuje tradycyjny obieg myśli naukowej i odciągnie badaczy od własnych projektów. Inni uważają bojkot za bezcelowy i argumentują, że publicznie dostępne materiały — nawet niedoskonałe — są dla nauki lepsze niż prace prowadzone przez firmy technologiczne w pełnej tajemnicy.
Dystans zachowuje również powołana przy Institute for Advanced Study grupa doradcza AGMAI, która nie kontroluje wewnętrznych badań OpenAI. Jej przedstawiciele oceniają sytuację łagodniej niż AHM: traktują udostępnione pliki jako punkt wyjścia do dalszej pracy, zaznaczając jednocześnie, że praca matematyków nie może sprowadzać się wyłącznie do porządkowania i objaśniania masowo generowanych materiałów.
Terence Tao zwraca uwagę, że obecny model rozwoju AI zmusza matematykę do przewartościowania celów. Zdaniem medalisty Fieldsa postęp dyscypliny powinien być mierzony nie samą liczbą zamkniętych problemów, lecz budowaniem zrozumienia, tworzeniem nowych pojęć oraz współpracą, która pozwala rozwijać całe dziedziny wiedzy.
