Google udostępnia aplikację do lokalnego uruchamiania modeli AI

Google po cichu wypuściło aplikację, która otwiera nowe możliwości dla entuzjastów i deweloperów sztucznej inteligencji. Aplikacja, nazwana Google AI Edge Gallery, pozwala na pobieranie i uruchamianie różnorodnych modeli AI bezpośrednio na urządzeniach mobilnych. Dostępna na system Android, a wkrótce także na iOS, aplikacja stanowi interesujący krok w kierunku decentralizacji dostępu do AI.

Jak działa Google AI Edge Gallery?

Aplikacja umożliwia użytkownikom przeglądanie, pobieranie i uruchamianie kompatybilnych modeli AI, oferowanych na platformie Hugging Face. Modele te mogą generować obrazy, odpowiadać na pytania, pisać i edytować kod, a wszystko to lokalnie – bez konieczności połączenia z internetem. Wykorzystują one moc obliczeniową procesorów w smartfonach.

Lokalnie znaczy prywatnie?

Uruchamianie modeli AI w chmurze ma swoje zalety – zazwyczaj oferują większą moc obliczeniową. Jednak rodzi też obawy o prywatność danych. Niektórzy użytkownicy mogą niechętnie wysyłać osobiste lub wrażliwe informacje do zdalnych centrów danych. Google AI Edge Gallery rozwiązuje ten problem, umożliwiając pracę z modelami offline.

Funkcje aplikacji i „Prompt Lab”

Aplikacja oferuje skróty do różnych zadań i możliwości AI, takich jak „Ask Image” i „AI Chat”. Po wybraniu zadania wyświetlana jest lista modeli odpowiednich do jego wykonania, w tym Gemma 3n od Google. Dodatkowo, Google AI Edge Gallery udostępnia „Prompt Lab”, narzędzie do eksperymentowania z modelami, umożliwiające m.in. streszczanie i przepisywanie tekstu. Zawiera ono szablony zadań i konfigurowalne ustawienia do precyzyjnego dostrajania zachowania modeli.

Wydajność i wymagania

Google ostrzega, że wydajność może się różnić w zależności od urządzenia. Nowoczesne smartfony z mocniejszymi podzespołami będą oczywiście działać szybciej. Rozmiar modelu również ma znaczenie – większe modele będą potrzebowały więcej czasu na wykonanie zadania niż mniejsze.

Dostępność i licencja

Google AI Edge Gallery jest dostępna do pobrania z GitHub jako „eksperymentalna wersja Alpha”. Google zaprasza deweloperów do przekazywania opinii na temat działania aplikacji. Aplikacja jest udostępniana na licencji Apache 2.0, co oznacza, że ​​może być używana w większości kontekstów – komercyjnych lub innych – bez ograniczeń.

Czy to początek ery, w której każdy będzie mógł mieć własną sztuczną inteligencję w kieszeni? Czas pokaże.