OpenAI twierdzi, że model rozwiązał ponad 100 problemów matematycznych. Nowa grupa doradcza nie zdecyduje o tempie prac

OpenAI poinformowało, że jego niewydany publicznie model wewnętrzny rozwiązał ponad 100 długoletnich otwartych problemów z większości dziedzin matematyki. Trening, po którym miał osiągnąć te wyniki, rozpoczął się 28 sierpnia, co oznacza około miesiąca pracy modelu. W tym samym komunikacie firma ogłosiła powołanie niezależnej grupy doradczej ds. matematyki i AI przy Institute for Advanced Study w Princeton.

Listy rozwiązanych problemów ani opisu metod jednak nie ma. OpenAI nie ujawnia, co dokładnie zostało rozwiązane i w jaki sposób, więc twierdzenia nie ma na razie czym zweryfikować. Kontekst jest przy tym istotny: wcześniej ogłoszone rozwiązanie problemu Naviera-Stokesa, jednego z problemów milenijnych, wywołało spór w środowisku i wciąż nie wiadomo, czy ten wynik przeszedł jakąkolwiek zewnętrzną weryfikację.

Powołanie grupy jest odpowiedzią na krytykę środowiska. W liście otwartym „A Severe Misalignment of AI in Mathematics”, podpisanym przez 25 medalistów Fieldsa, matematycy przekonują, że mierzenie możliwości AI liczbą rozwiązanych problemów to błędna miara — nie mówi nic o rozumieniu pojęciowym, które jest istotą tej dziedziny.

Grupa doradcza bez wpływu na tempo prac

Grupa działa przy Institute for Advanced Study w Princeton i liczy dziewięciu członków; wśród założycieli jest Timothy Gowers, medalista Fieldsa. Ma doradzać, w jaki sposób OpenAI dzieli się wynikami z naukowcami i opinią publiczną. Członkowie mogą występować z własnej inicjatywy, publikować swoje rekomendacje i decydować o tym, kto dołączy do składu. Od OpenAI nie pobierają za to wynagrodzenia.

Zakres mandatu kończy się jednak w jednym, zapisanym wprost miejscu: grupa „nie będzie odpowiedzialna za doradzanie, jak kształtować wewnętrzne tempo postępów w matematyce”. Doradcy mają więc wpływ na to, jak firma opowiada o swoich wynikach, ale nie na to, jak szybko je osiąga. To właśnie to zastrzeżenie, a nie skład grupy, określa, czym ta inicjatywa jest.

Gowers: problemem nie jest to, że AI rozwiązuje problemy

Gowers listu nie podpisał i jego stanowisko różni się od tego, które głoszą sygnatariusze. Pisze na blogu, że matematyka rzeczywiście jest w tarapatach, ale linia sporu nie przebiega między AI a matematykami. Przywołuje własne doświadczenie: prowadzony przez niego w Cambridge projekt automatycznego dowodzenia twierdzeń stracił rację bytu, gdy modele językowe stały się wystarczająco dobre. „Musieliśmy przełknąć gorzką lekcję” — pisze medalista Fieldsa, dla którego punktem odniesienia nie jest zagrożenie ze strony AI, lecz utrata sensu własnej pracy.

Realne ryzyko widzi w zaniku społecznych struktur, które podtrzymują matematykę. Jeśli mniej osób zdecyduje się na doktorat, a politycy uznają, że skoro AI rozwiązuje problemy, finansowanie ludzi jest zbędne, dyscyplina straci zaplecze. Gowers apeluje o sposoby uzasadniania wartości dużej grupy ludzkich ekspertów, nawet jeśli ci nie będą już odkrywać nowych twierdzeń.

Nie podpisał listu także dlatego, że nie znalazł w nim postulatów, które nie byłyby już realizowane. Krytykowanie firm AI za zbyt szybkie generowanie rozwiązań uważa za bezcelowe — modele zdolne do rozwiązywania poważnych problemów matematycznych będą jego zdaniem publicznie dostępne w ciągu kilku miesięcy.

OpenAI nazywa powołanie grupy pierwszym krokiem. Nie ujawniło jednak ani listy problemów, które model miał rozwiązać, ani metod, którymi miały zostać rozwiązane. Bez tego twierdzenie o ponad stu problemach pozostaje niesprawdzalne.