Pułapka naśladownictwa: Dlaczego generatywna AI nie potrafi uprawiać nauki

Kiedy ChatGPT pisze wiersz, wydaje się genialny. Kiedy ma postawić nową hipotezę fizyczną, zaczyna zjadać własny ogon. Richard Sutton, ojciec współczesnego uczenia ze wzmocnieniem, uważa, że to nie przypadek, a systemowa wada. Modele językowe stały się maszynami do kserowania kultury, tymczasem prawdziwa nauka wymaga czegoś, czego algorytmy nie mają w kodzie: krytycznego sędziego, który odrzuci własne błędy.

Dlaczego to ważne teraz

Debata o przyszłości badań naukowych wchodzi w decydującą fazę. Podczas gdy korporacje promują wizję AI jako autonomicznych labolatoriów, naukowcy tacy jak Sutton ostrzegają przed budowaniem na piasku. Spór o to, czy modele typu LLM mogą tworzyć nową wiedzę, czy jedynie sprawnie rekonstruować wzorce z danych treningowych, przestaje być teoretyczny. Chodzi o to, czy AI faktycznie dokona przełomu w medycynie, czy jedynie zaleje nas potokiem wiarygodnie brzmiących bzdur.

Brak wewnętrznej pętli prawdy

Sutton, laureat Nagrody Turinga i współautor klasycznego podręcznika do uczenia ze wzmocnieniem, stawia sprawę jasno: popularne systemy AI są więźniami statystyki. Przywołuje przy tym stary żart z akademickich kuluarów: „Ta praca jest nowatorska i dobra. Niestety, części, które są dobre, nie są nowatorskie, a te, które są nowatorskie, nie są dobre”. To idealny opis dzisiejszej generatywnej sztucznej inteligencji.

Kluczowym deficytem systemów takich jak GPT-4 czy Claude jest brak mechanizmu ewaluacji. Modele te generują odpowiedzi, które statystycznie przypominają materiał źródłowy, ale nie potrafią ich przetestować. Sutton definiuje naukę jako proces trójetapowy: wariację, ewaluację i selektywne utrwalanie. Generatywna AI świetnie radzi sobie z produkcją wersji, ale kompletnie wyłoży się na etapie testowania ich trafności.

Granica między kreatywnością a statystyką

Prawdziwa inteligencja, według Suttona, tkwi w interakcji. W klasycznym modelu Reinforcement Learning (RL) system uczy się poprzez akcje w środowisku i maksymalizację nagrody. Tak działają systemy typu AlphaGo czy AlphaFold. One posiadają zewnętrzny miernik sukcesu – wynik gry albo poprawność struktury białka. To tam rodzi się prawdziwa kreatywność, bo system może się pomylić, zostać ukarany punktowo i wyciągnąć wnioski.

Większość modeli językowych po zakończeniu treningu staje się sztywna. Przestają się zmieniać. Tymczasem Sutton promuje koncepcję continual learning, w której „Every moment is both training and testing”. Każda interakcja jest okazją do korekty, a nie tylko do wyplucia kolejnego tokena. Badacz ostro krytykuje dzisiejszą pogoń za wielkością modeli, twierdząc wprost, że „AGI to obecnie jedynie hasło marketingowe”, służące do pompowania wycen, a nie realnego postępu naukowego.

W stronę agentów, nie generatorów

Aby AI realnie pomagała w nauce, musimy porzucić koncepcję statycznych „generatorów treści”. Przyszłość leży w architekturach takich jak Oak, które zakładają budowanie agentów zdolnych do ciągłego uczenia się i formowania abstrakcyjnych pojęć na bazie doświadczeń. To powrót do korzeni: agent, środowisko, akcja i nagroda. Dopóki system nie będzie posiadał funkcji celu wykraczającej poza dopasowanie kolejnego słowa, pozostanie jedynie sprawnym kopistą ludzkiego dorobku, niezdolnym do odkrycia czegokolwiek, czego my już wcześniej nie zapisaliśmy w internecie.