Google i MediaTek otwierają NPU na AI. LiteRT ma przenieść LLM-y z chmury na smartfony
Nowa platforma LiteRT NeuroPilot Accelerator ma rozwiązać największy problem sztucznej inteligencji na urządzeniach mobilnych – fragmentację sprzętową. Google i MediaTek obiecują ujednolicony i wydajny sposób na uruchamianie modeli językowych bezpośrednio na układach NPU w smartfonach, bez ciągłego odwoływania się do serwerów w chmurze.
Read More