Małe jest wielojęzyczne: Cohere Labs rzuca wyzwanie gigantom modelem Tiny Aya

Demokratyzacja AI poza chmurą

W świecie zdominowanym przez gigantyczne modele językowe pochłaniające miliardy dolarów i megawatogodziny energii, Cohere Labs obiera inny kierunek. Nowa seria modeli Tiny Aya to manifest technologicznej efektywności. Zamiast budować jeden, nieporęczny system, inżynierowie Cohere stworzyli kompaktowe narzędzie o parametrach rzędu 3,35 miliarda, które jest w stanie obsłużyć ponad 70 języków, w tym dialekty często pomijane przez zachodnie korporacje.

Największym atutem Tiny Aya jest jej operacyjna niezależność. Modele zostały zaprojektowane tak, aby działały bezpośrednio na urządzeniach końcowych, takich jak laptopy, bez konieczności stałego połączenia z internetem. To strategiczny ruch w stronę rynków wschodzących, jak Indie czy kraje afrykańskie, gdzie stabilność sieci bywa luksusem, a lokalne przetwarzanie danych zwiększa prywatność i obniża koszty operacyjne.

Specjalizacja zamiast uśredniania

Cohere nie zdecydowało się na jedno uniwersalne rozwiązanie. Rodzina modeli została podzielona na warianty regionalne: TinyAya-Fire dla Azji Południowej, TinyAya-Earth dla języków afrykańskich oraz TinyAya-Water, obejmujący region Azji i Pacyfiku, Bliski Wschód i Europę. To podejście modularne pozwala systemom na lepsze zrozumienie niuansów kulturowych i lingwistycznych, których globalne algorytmy często nie wychwytują.

Co istotne z perspektywy inżynieryjnej, Tiny Aya to model typu „open-weight”. Oznacza to, że jego wagi są publicznie dostępne, co pozwala badaczom i deweloperom na swobodną modyfikację i optymalizację kodu pod konkretne zastosowania. Cohere udostępniło również zestawy danych treningowych oraz ewaluacyjnych, promując transparentność w procesie budowania sztucznej inteligencji.

Efektywność mierzona w H100

Ciekawie prezentują się kulisy powstawania modelu. Został on wytrenowany przy użyciu zaledwie jednego klastra z 64 jednostkami GPU Nvidia H100. W skali branżowej to zasoby niemal ascetyczne, co pokazuje, że optymalizacja oprogramowania może z powodzeniem kompensować mniejszą moc obliczeniową. Modele są już dostępne na platformach HuggingFace, Kaggle oraz Ollama, co czyni je natychmiastowo gotowymi do lokalnego wdrożenia przez programistów na całym świecie.

Krok ten następuje w kluczowym momencie dla Cohere. Firma, kierowana przez Aidana Gomeza, notuje gwałtowne wzrosty przychodów – kończąc 2025 rok z wynikiem 240 milionów dolarów ARR. Skupienie się na rozwiązaniach dla przedsiębiorstw i optymalizacji on-device stanowi ambitną alternatywę dla modelu subskrypcyjnego OpenAI czy Google, budując solidny fundament pod zapowiadany debiut giełdowy.