Netflix stawia na modele językowe. Koniec ery ręcznie budowanych algorytmów rekomendacji?
Przez lata fundamentem sukcesu Netfliksa był autorski, niezwykle złożony system rekomendacji oparty na tysiącach ręcznie definiowanych parametrów. Każde kliknięcie, czas oglądania czy dodanie tytułu do listy było przekładane na gęste wektory liczbowe. Teraz jednak inżynierowie z Los Gatos sygnalizują radykalny zwrot w stronę modeli językowych. Nowy system o nazwie GenRec udowadnia, że traktowanie zachowań użytkownika jak dialogu w języku naturalnym może być skuteczniejsze niż mozolne budowanie dedykowanych architektur.
Dlaczego to ważne teraz
Netflix wprowadza GenRec jako ranker rekomendacyjny oparty na modelu językowym, co oznacza odejście od sztywnej inżynierii cech na rzecz elastycznego przetwarzania metadanych i historii interakcji jako tekstu. To zmiana paradygmatu, która pozwala systemowi lepiej rozumieć kontekst wyboru widza bez konieczności ręcznego programowania każdej zmiennej. Jak podaje Netflix Tech Blog, GenRec pokazał, że potrafi dorównać dojrzałym systemom produkcyjnym, wymagając przy tym drastycznie mniejszej liczby danych do nauki.
Od cech rzemieślniczych do potęgi tekstu
Tradycyjne podejście do rekomendacji stawało się dla Netfliksa coraz większym obciążeniem. Wprowadzanie nowych formatów, takich jak gry wideo czy podcasty, wymagało każdorazowo tworzenia nowych zestawów cech (feature engineering), co jest procesem kosztownym i czasochłonnym. GenRec rozwiązuje ten problem, zamieniając historię interakcji w zwykły tekst. Zamiast kodować matematycznie preferencje gatunkowe, model analizuje opisy zdarzeń – od długich sesji binge-watchingu po szybkie przewijanie treści.
Netflix nie poszedł jednak na łatwiznę, stosując gotowy model typu off-the-shelf. Standardowe LLM-y mają bowiem tendencję do faworyzowania jedynie najpopularniejszych tytułów oraz, co gorsza, halucynowania produkcji, które w ogóle nie istnieją w bibliotece. Aby temu zapobiec, GenRec przeszedł dwuetapowy proces szkolenia. Najpierw otwarty model bazowy douczono na danych Netfliksa, by zrozumiał specyfikę katalogu, a następnie poddano go specjalistycznemu tuningowi rankingowemu.
Mniej danych, lepsze efekty
Najbardziej uderzającym wnioskiem z testów jest efektywność uczenia. W drugim etapie treningu GenRec potrzebował aż 40-krotnie mniej etykietowanych danych, by osiągnąć wyniki lepsze od systemu produkcyjnego, który był szlifowany przez lata. Jak zauważają autorzy projektu: „GenRec pokazuje, że ranker oparty na LLM może dorównać lub przewyższyć dojrzały system produkcyjny, opierając się na znacznie mniejszej liczbie etykietowanych przykładów i sygnałów wejściowych”.
Eksperymenty na żywym organizmie potwierdziły te przypuszczenia. Podczas czterotygodniowego testu A/B przeprowadzonego na 10 proc. ruchu, GenRec wykazał mierzalną poprawę kluczowych wskaźników. W testach offline nowa metoda poprawiła wskaźnik Mean Reciprocal Rank o około 1,6 proc. Choć na papierze wydaje się to niewielką zmianą, w skali platformy obsługującej miliony użytkowników to istotny przeskok technologiczny. Co ciekawe, inżynierowie zauważyli, że modele rekomendacyjne starzeją się wyjątkowo szybko – dwutygodniowy brak aktualizacji bazy potrafi drastycznie obniżyć precyzję sugestii, co wymusza częstsze retrenowanie.
Przyszłość w chmurze GPU
Choć Netflix nie planuje natychmiastowej wymiany całego silnika rekomendacji, GenRec jest jasnym sygnałem zmian w branży. Praca inżynierów przesuwa się z konstruowania specyficznych architektur w stronę selekcji odpowiednich sygnałów wejściowych dla modeli ogólnego przeznaczenia. To zmiana paradygmatu – zamiast budować młotek dla każdego gwoździa, Netflix uczy jeden, wszechstronny model, jak radzić sobie z całą skrzynką narzędziową. Infrastruktura platformy również ewoluuje w stronę serwerów GPU, co ostatecznie przypieczętuje koniec ery ręcznie sterowanych algorytmów na rzecz elastycznej sztucznej inteligencji.
