Wybór modelu AI: dylemat między otwartymi a zamkniętymi rozwiązaniami

Wybór odpowiedniego modelu AI jest decyzją, która ma zarówno techniczne, jak i strategiczne konsekwencje. Podczas tegorocznej konferencji VB Transform eksperci od architektury modeli z General Motors, Zoom i IBM omówili, w jaki sposób ich firmy i klienci podchodzą do wyboru modeli AI.

Barak Turovsky, który niedawno objął stanowisko głównego oficera ds. AI w GM, wspomniał, że wraz z każdą nową wersją modelu i zmianami na listach rankingowych pojawia się wiele szumu. Przypomniał, że jeszcze przed pojawieniem się mainstreamowej debaty na temat liderboardów, on sam pomagał uruchomić jeden z pierwszych dużych modeli językowych (LLM). Jego zdaniem, upublicznienie wag modeli AI i danych treningowych przyczyniło się do znaczących przełomów.

Według Turovsky’ego, firmy czasami preferują strategię mieszaną – używając otwartego modelu do użytku wewnętrznego, a zamkniętego do produkcji i obsługi klienta, lub odwrotnie. Czynniki decyzyjne obejmują koszt, wydajność, zaufanie i bezpieczeństwo.

Armand Ruiz z IBM podkreślił, że jego firma początkowo oparła swoją platformę na własnych LLM, ale szybko zdała sobie sprawę, że to nie wystarczy, zwłaszcza z pojawieniem się bardziej zaawansowanych modeli na rynku. W efekcie IBM zdecydował się na integrację z platformami takimi jak Hugging Face, umożliwiając klientom wybór dowolnego modelu open-source.

Coraz więcej przedsiębiorstw decyduje się na zakup modeli od wielu dostawców. Jak wynika z badania przeprowadzonego przez Andreessen Horowitz, 37% respondentów używa obecnie co najmniej 5 modeli, podczas gdy rok temu było to 29%. Ruiz zwrócił uwagę, że zbyt duża liczba opcji może prowadzić do paraliżu decyzyjnego.

CTO Zoom, Xuedong Huang, przedstawił podejście swojej firmy do AI. Klienci Zoom mogą wybierać między dwoma konfiguracjami AI Companion – jedną, która łączy firmowy LLM z innymi większymi modelami podstawowymi, oraz drugą, która pozwala na używanie wyłącznie modelu Zoom. Firma opracowała także własny mały model językowy (SLM) bez wykorzystania danych klientów.

Huang podkreślił zalety hybrydowego podejścia, wskazując, że mniejszy model może wykonywać specyficzne zadania, współpracując z większym modelem. To połączenie, jego zdaniem, pozwala na osiągnięcie lepszych wyników.