Salesforce AI prezentuje Moirai 2.0: Nowy standard w modelowaniu szeregów czasowych

Salesforce AI Research zaprezentowało Moirai 2.0, najnowsze osiągnięcie w dziedzinie fundamentowych modeli szeregów czasowych. Model, zbudowany na architekturze transformatora z dekoderem, ustanawia nowe standardy wydajności i efektywności, zajmując pierwsze miejsce w benchmarku GIFT-Eval, powszechnie uznawanym standardzie oceny modeli prognozowania szeregów czasowych.

Moirai 2.0 jest o 44% szybszy w inferencji i o 96% mniejszy w porównaniu do swojego poprzednika. Co istotne, ten znaczący postęp nie wiąże się z poświęceniem dokładności.

Co wyróżnia Moirai 2.0?

Kluczowe innowacje w architekturze Moirai 2.0:

• Transformator z dekoderem: Przejście z maskowanego enkodera na transformator z dekoderem umożliwia Moirai 2.0 lepsze modelowanie autoregresywnego generowania prognoz, zwiększając skalowalność i wydajność na większych, bardziej złożonych zbiorach danych.
• Efektywna predykcja wielu tokenów: Model osiąga większą efektywność i stabilność podczas prognozowania, przewidując wiele tokenów naraz, a nie tylko jeden.
• Zaawansowane filtrowanie danych: Niska jakość, nieprzewidywalne szeregi czasowe są automatycznie odfiltrowywane podczas treningu, co zwiększa niezawodność.
• Osadzanie tokenów w postaci łat i losowe maskowanie: Nowe techniki kodowania informacji o brakujących wartościach i odporności na niekompletne dane podczas wnioskowania.

Rozszerzony zbiór danych do wstępnego uczenia

Moirai 2.0 wykorzystuje bogatszy zbiór danych treningowych obejmujący dane rzeczywiste (jak GIFT-Eval Pretrain i Train), syntetyczne (Chronos mixup, KernelSynth) oraz wewnętrzne dane operacyjne z systemów IT Salesforce.

Szeroka baza danych pozwala Moirai 2.0 na generalizację w niezliczonych zadaniach i dziedzinach prognozowania.

Wyniki: Przełomowe osiągnięcia

Moirai 2.0 to skok naprzód w porównaniu z poprzednimi modelami:

• Najlepszy wynik MASE na GIFT-Eval dla modeli nie wyciekających danych (uznana w branży metryka dokładności prognozowania).
• Wydajność CRPS dorównuje dotychczasowemu stanowi wiedzy.
• W porównaniu do Moirai_large:
  • 16% lepiej na MASE
  • 13% lepiej na CRPS
  • 44% szybszy w inferencji
  • 96% mniejszy rozmiar parametrów

Te wyniki sprawiają, że wysoce wydajne, skalowalne prognozowanie jest bardziej dostępne dla szerszego grona odbiorców.

Dlaczego Moirai 2.0 jest ważny dla praktyków?

Możliwości Moirai 2.0 wykraczają poza akademickie benchmarki i obejmują kluczowe dla przedsiębiorstw obszary, takie jak:

• Operacje IT: Proaktywne skalowanie zasobów, wykrywanie anomalii
• Prognozowanie sprzedaży: Dokładne, skalowalne prognozy przychodów
• Prognozowanie popytu: Zoptymalizowane zarządzanie zapasami
• Planowanie łańcucha dostaw: Lepsze planowanie, redukcja strat
• Wiele innych procesów biznesowych opartych na danych

Dzięki znacznemu zmniejszeniu rozmiaru modelu i poprawie szybkości, wysokiej jakości prognozowanie może być teraz stosowane na dużą skalę, umożliwiając firmom podejmowanie inteligentniejszych i szybszych decyzji niezależnie od ich infrastruktury danych.

Moirai 2.0 demokratyzuje dostęp do najnowocześniejszych, ogólnego przeznaczenia technologii prognozowania, ma potencjał przekształcenia krajobrazu modelowania szeregów czasowych. Elastyczność w różnych dziedzinach, większa wytrzymałość, szybsze wnioskowanie i niższe wymagania obliczeniowe, model Salesforce AI Research otwiera firmom i naukowcom na całym świecie możliwości wykorzystania mocy prognozowania do transformacyjnych decyzji.