Baidu rzuca wyzwanie ograniczeniom OCR. System Unlimited zainspirowany ludzką pamięcią

Większość współczesnych systemów optycznego rozpoznawania znaków (OCR) napotyka niewidzialną ścianę po przetworzeniu zaledwie kilku stron tekstu. Problemem nie jest sam obraz, lecz architektura modeli językowych pełniących rolę dekoderów. W miarę generowania kolejnych słów bufory pamięci (tzw. KV cache) puchną, co drastycznie spowalnia proces i pożera zasoby sprzętowe. Badacze z Baidu postanowili przełamać ten impas, prezentując model Unlimited OCR, który radzi sobie z kilkudziesięcioma stronami w jednym przebiegu, zachowując stałą prędkość i niemal niezmienne zapotrzebowanie na pamięć.

To wdrożenie uderza w jeden z najtrudniejszych problemów masowej cyfryzacji: drastyczny spadek wydajności przy analizie grubych tomów i rozbudowanych raportów. Zdolność do przetworzenia ponad 40 stron w jednym ciągu przy stałym tempie pracy sprawia, że systemy te przestają być wąskim gardłem w procesach analizy długich dokumentów. Jak podaje zespół Baidu, model pozwala na taką operację bez utraty kontekstu i bez spadku wydajności, co otwiera drogę do budowy rzeczywistych cyfrowych bibliotek.

Architektura inspirowana procesem przepisywania tekstu

Kluczem do sukcesu okazała się zmiana podejścia do mechanizmu uwagi. Zespół Baidu przyjął analogię do osoby przepisującej tekst. R-SWA to mechanizm, który naśladuje ludzki proces przepisywania tekstu: patrzy na źródło, ale w pamięci operacyjnej przechowuje tylko ostatnie słowa – tłumaczą autorzy modelu. Kiedy kopiujemy długą książkę, nie analizujemy za każdym razem tysięcy słów, które już przenieśliśmy na papier. Skupiamy wzrok na źródle, ostatnim zapisanym znaku i tym, który właśnie stawiamy. Starsze fragmenty naturalnie zacierają się w krótkotrwałej pamięci operacyjnej.

To podejście zaimplementowano jako Reference Sliding Window Attention. Model w każdej chwili widzi pełny kontekst wizualny, ale w przypadku generowanego tekstu ogranicza się do okna ostatnich 128 tokenów. Dzięki temu bufor KV cache nie rośnie w nieskończoność, lecz działa jak kolejka o stałej długości, w której nowe dane wypychają najstarsze. Co istotne, technika ta chroni cechy wizualne przed degradacją, co w standardowych mechanizmach kroczących bywało bolączką prowadzącą do rozmywania istotnych szczegółów obrazu.

Efektywność w teorii i praktyce

Unlimited OCR bazuje na fundamentach modelu Deepseek OCR, wzbogaconego o architekturę Mixture-of-Experts (MoE) z 3 miliardami parametrów, z czego aktywnie wykorzystywanych jest około 500 milionów. W testach wydajnościowych system Baidu osiąga przepustowość na poziomie 5 580 tokenów na sekundę, deklasując model bazowy o blisko 13 proc. Różnica ta staje się jeszcze bardziej wyraźna przy bardzo długich dokumentach, gdzie tradycyjne systemy zaczynają dławić się własną pamięcią, podczas gdy Unlimited utrzymuje płaską krzywą opóźnień.

Wyniki na benchmarku OmniDocBench v1.6 potwierdzają, że narzucone ograniczenie uwagi nie tylko nie szkodzi, ale wręcz pomaga. Model uzyskał wynik 93,92 proc., przewyższając Deepseek OCR o solidne 6 punktów. Naukowcy z Baidu sugerują, że taki wynik potwierdza, iż ograniczenie uwagi pomaga w koncentracji na zadaniu, eliminując ryzyko rozbieżności przy długich sekwencjach wyjściowych.

W kierunku cyfrowej biblioteki bez granic

Mimo nazwy „Unlimited”, obecna wersja ma swoje techniczne limity wynikające z maksymalnej długości sekwencji wynoszącej 32 000 tokenów. Baidu zapowiada jednak szybkie przejście na modele o pojemności 128 000 tokenów oraz wdrożenie mechanizmu dynamicznego pobierania bloków pamięci, co przypominałoby kartkowanie książki w poszukiwaniu kontekstu. Rozwiązanie to może znaleźć zastosowanie daleko poza analizą dokumentów – podobne mechanizmy stałej pamięci mogłyby zmienić obsługę długich historii czatów czy tłumaczeń maszynowych.

W świecie, gdzie giganci walczą o każdy punkt procentowy w rozpoznawaniu tabel i pisma ręcznego, propozycja Baidu wybija się pragmatyzmem. Zamiast budować coraz większe modele, chińscy inżynierowie pokazali, jak lepiej zarządzać tym, co sieć już wie, by nie utonęła w nadmiarze informacji.