Cichy lifting modeli Gemma 2. Google podkręca tempo bez zmiany numeracji
Google wyłączyło hamulec ręczny w swojej rodzinie modeli open-weights. Bez hucznych zapowiedzi ani zmiany wersji na 2.1, inżynierowie z Mountain View wprowadzili do serii Gemma 2 modyfikacje, które drastycznie zmieniają ich charakterystykę pracy. To nie jest zwykła kosmetyka – to głęboka przebudowa sposobu, w jaki algorytmy komunikują się z najmocniejszymi układami graficznymi na rynku.
Dlaczego to ważne właśnie teraz? W obliczu rosnącej dominacji Meta, Google musi udowodnić, że swoje darmowe modele nie są tylko uboższymi krewnymi Gemini. Zastosowanie optymalizacji pod architekturę Hopper i wdrożenie Flash Attention 3 to bezpośrednia odpowiedź na potrzeby deweloperów, którzy oczekują wydajności klasy korporacyjnej przy zachowaniu otwartości kodu.
Prędkość mierzona w tokenach
Największy przeskok widać w konkretnych liczbach. Integracja mechanizmu Flash Attention przełożyła się na skrócenie czasu generowania pierwszego tokenu o 33%. W praktyce oznacza to, że model „myśli” krócej przed rozpoczęciem wypowiedzi. Ogólna szybkość przetwarzania promptów skoczyła od 25% do nawet 70%, co przy dużych obciążeniach generuje realne oszczędności czasu i energii. Flash Attention 3 wyciska z układów H100 aż 740 TFLOPS/s, co stanowi 75% ich maksymalnej wydajności – wynik dotąd niemal nieosiągalny dla standardowych implementacji.
Koniec z urwanymi zdaniami
Poprzednie wersje Gemmy miały irytujący zwyczaj nagłego przerywania pracy w połowie zdania lub gubienia logicznych wątków. Nowa łatka naprawia te błędy, kładąc szczególny nacisk na funkcję tool-calling. W wariancie 27B precyzja w zadaniach wymagających korzystania z zewnętrznych narzędzi wzrosła o ponad 10%. Zmiany objęły też samą architekturę: Google zwiększyło parametr hidden_size z 3072 do 3584 i wprowadziło GQA (Grouped Query Attention) zamiast standardowego Multi-Head Attention, co stabilizuje model przy dużych obciążeniach.
Lepszy wzrok i głębsza analiza
Warstwa multimodalna również doczekała się usprawnień. Dzięki czterokrotnemu podniesieniu limitu parametru max_soft_tokens do poziomu 1120, modele Gemma zyskały znacznie wyższą rozdzielczość percepcyjną. Teraz mogą analizować obrazy o rozdzielczości do 2,51 megapiksela. Dla użytkowników biznesowych oznacza to precyzyjniejsze OCR (wykrywanie tekstu) oraz zdolność do wyłapywania detali na zdjęciach, których algorytm wcześniej po prostu nie widział. Google udostępniło już gotowe pliki konfiguracyjne na platformie Hugging Face.
Problem z zaufaniem do numeracji
Mimo technicznego sukcesu, strategia „cichych poprawek” budzi opór środowiska naukowego. Jeśli pobierasz model o tej samej nazwie co tydzień temu, a on zachowuje się inaczej, masz problem z reprodukowalnością wyników badań. W świecie AI, gdzie każdy przecinek w wagach modelu ma znaczenie, publikowanie nowej architektury pod starą nazwą trąci brakiem przejrzystości. Google postawiło na brutalną wydajność kosztem jasnej komunikacji z rynkiem.
