Autor „Gorzkiej lekcji” studzi entuzjazm wokół LLM-ów. Sama moc obliczeniowa nie wystarczy

Sformułowana w 2019 roku przez Richarda Suttona „gorzka lekcja” (ang. The Bitter Lesson) stała się niemal dogmatem współczesnej branży sztucznej inteligencji. Laureat Nagrody Turinga argumentował wówczas, że w dłuższej perspektywie ogólne metody skalujące się wraz z mocą obliczeniową zawsze wygrywają ze skomplikowanymi rozwiązaniami opartymi na wiedzy inżynieryjnej człowieka. Teraz jednak sam Sutton przypomina na platformie X, że surowe zasoby obliczeniowe nie wystarczą do stworzenia prawdziwej inteligencji, a badania nad AI są „dalekie od ukończenia”.

Według Suttona ślepe skalowanie dużych modeli językowych pomija fundamentalny problem: świat rzeczywisty jest nieskończenie złożony, a statyczny tekst z internetu nie jest w stanie uchwycić tej złożoności. Dzisiejsze modele przestają się uczyć w momencie zakończenia treningu. W sierpniu pisaliśmy, że Sutton nazwał trenowanie na danych syntetycznych wielkim błędem, argumentując, że każda ludzka symulacja jest zaledwie mikroskopijnym wycinkiem rzeczywistości. Zamiast tego badacz postuluje budowę agentów AI wyposażonych w modele świata, którzy uczą się w sposób ciągły na podstawie własnego doświadczenia, nie niszcząc przy tym wcześniej zdobytej wiedzy.

Głos pioniera uczenia ze wzmocnieniem wywołał ożywioną dyskusję wśród badaczy. Jerry Tworek, były badacz OpenAI, który kieruje laboratorium Core Automation, ocenił, że przesłanie oryginalnego eseju Suttona wciąż obowiązuje, ale wymaga właściwego zrozumienia: im więcej mocy obliczeniowej trafia do treningu, tym większe znaczenie ma sam algorytm. Część metod się skaluje, inne trafiają w ślepą uliczkę, a wiele wymiarów skalowania pozostaje niezbadanych. Jak stwierdził Tworek, tymczasowy sukces transformerów w połączeniu z powierzchownym odczytaniem tezy Suttona „zhakował mechanizmy nagrody w mózgach całego pokolenia naukowców”.

Badacz Jayden Teoh dodał z kolei, że „gorzka lekcja” bywała w środowisku akademickim nadużywana jako pretekst do odrzucania wartościowych idei uznawanych za sprzeczne z jej duchem. Jego zdaniem pomysły, które z czasem zostają zastąpione przez czystsze, bardziej ogólne metody, często stanowiły niezbędny pomost umożliwiający ówczesny postęp.

Spór o granice obecnego paradygmatu dzieli branżę na dwa obozy. Z jednej strony, jak zauważa The Decoder, rośnie fala nowych laboratoriów badawczych – takich jak Core Automation czy powołane przez Suttona Oak Lab – które szukają algorytmów uczenia wykraczających poza klasyczny pretraining. Z drugiej strony prominentni liderzy branży patrzą na tę kwestię zupełnie inaczej. Dyrektor generalny OpenAI Sam Altman twierdzi, że potencjał skalowania LLM-ów nie został wyczerpany, a krytycy zbyt pewni ograniczeń tej metody spowolnili pracę całego pokolenia badaczy. W podobnym tonie wypowiada się szef Anthropic Dario Amodei, dla którego obecna trajektoria wzrostu modeli wciąż przypomina „tęczę bez końca”.