Hardware

Google dzieli krzem na dwa fronty: nadchodzi kres uniwersalnych akceleratorów AI

Google właśnie przestało udawać, że jeden procesor może być we wszystkim najlepszy. Premiera TPU 8t oraz TPU 8i to moment kapitulacji przed mitem uniwersalności AI.

Krzemowa asymetria: Trening kontra wnioskowanie

Gigant z Mountain View oficjalnie przyznaje: era wielkich modeli wymaga specjalizacji, a nie brutalnej siły wrzuconej do jednego worka. Podczas gdy rynek wciąż goni za każdą sztuką uniwersalnych kart od Nvidii, Google buduje dwa osobne światy.

TPU 8t to potwór do treningu. W konfiguracji superpod dostajemy 9600 układów, 2 PB współdzielonej pamięci HBM i abstrakcyjne 121 EFLOPS mocy obliczeniowej. To sprzęt, który ma mielić terabajty danych szybciej niż cokolwiek wcześniej, ignorując subtelności czasu odpowiedzi.

Zupełnie inną drogą idzie TPU 8i. Tu liczy się inferencja, czyli moment, w którym model musi odpowiedzieć użytkownikowi. Zamiast czystej, surowej mocy Google postawiło na 384 MB pamięci SRAM bezpośrednio na chipie. Cel? Minimalizacja opóźnień i obsługa agentów AI w czasie rzeczywistym.

Dlaczego to ma znaczenie?

  • Drastyczne obniżenie kosztu pojedynczego zapytania (tokena) w chmurze.
  • Obsługa długiego kontekstu bez dławienia się infrastruktury.
  • Efektywniejsze zarządzanie energią w centrach danych.

Ekonomia najtańszego tokena

To nie jest tylko techniczna ciekawostka. To wojna o marże.

Wprowadzając TPU 8i, Google rzuca wyzwanie nie tylko Nvidii, ale i mniejszym graczom, jak Groq czy Microsoft ze swoim układem Maia 200. Branża rozumie już, że serwowanie AI to biznes skali, w którym wygrywa ten, kto dostarczy odpowiedź o nanosekundę szybciej i o cent taniej.

Google wygrywa tu jednak coś więcej – kontroluje cały stos. Od własnych procesorów Axion, przez specyficzne biblioteki JAX, aż po infrastrukturę pod PyTorch. To pionowa integracja, o której konkurencja może tylko pomarzyć, o ile nie ucieknie w stronę zamkniętych ekosystemów.

Koniec dominacji GPU?

Jeżeli trend się utrzyma, klasyczne procesory graficzne zostaną zepchnięte do roli drogich narzędzi dla naukowców, podczas gdy wyspecjalizowane układy ASIC przejmą 90% codziennego ruchu AI.

To brutalna lekcja efektywności: uniwersalność jest dziś luksusem, na który Google nie zamierza już marnować budżetu. Walka o dominację w chmurze właśnie przeniosła się z poziomu oprogramowania na poziom pojedynczych tranzystorów optymalizowanych pod konkretny cel.