Technologia

LLMR & D

ZenFlow: Nowa metoda na przyspieszenie treningu dużych modeli językowych

Zespół DeepSpeed zaprezentował ZenFlow, innowacyjny silnik odciążający, który minimalizuje przestoje GPU spowodowane przez CPU podczas treningu dużych modeli językowych (LLM). Dzięki inteligentnemu potokowaniu i priorytetyzacji aktualizacji gradientów, ZenFlow zapewnia nawet 5-krotne przyspieszenie w porównaniu z tradycyjnymi metodami, radykalnie zwiększając efektywność wykorzystania zasobów.

Read More
Gen AITechnologia

Liquid AI prezentuje LFM2-VL: przełomowe modele wizyjno-językowe do zastosowań na urządzeniach

Firma Liquid AI wprowadza na rynek LFM2-VL – nową rodzinę modeli wizyjno-językowych, które mają zrewolucjonizować wdrażanie AI na urządzeniach mobilnych i systemach wbudowanych. Dzięki optymalizacji pod kątem niskich opóźnień i wysokiej wydajności, LFM2-VL otwiera drogę dla multimodalnych aplikacji AI działających bezpośrednio na smartfonach, laptopach i innych urządzeniach.

Read More