Google przyspiesza tempo premier sprzętu AI. Cztery warianty TPU w jeden rok

Google wprowadza do oferty dwa nowe systemy oparte na ósmej generacji swoich układów scalonych: TPU 8tx oraz TPU 8i Max. Wraz z tą premierą koncern dostarczył na rynek cztery różne konfiguracje TPU w ciągu zaledwie jednego roku – to najszybsze tempo rozwoju tej platformy w historii firmy.

W obu przypadkach nie mamy do czynienia z zupełnie nowym krzemem, lecz z nowymi konfiguracjami systemowymi. Google wykorzystuje istniejące procesory, modyfikując ich upakowanie, architekturę sieciową oraz organizację pamięci. Zgodnie z zapowiedziami producenta, takie modułowe podejście pozwala projektować i wdrażać wyspecjalizowane warianty sprzętu w kilka miesięcy, a nie lat.

Poufne dane i walka z wąskim gardłem pamięci

Model TPU 8tx powstał z myślą o sektorze publicznym i przedsiębiorstwach z branż regulowanych, które pracują na danych wrażliwych. Standardowo dane są szyfrowane podczas przechowywania oraz przesyłania przez sieć, ale procesor musi je odszyfrować w pamięci na czas obliczeń. TPU 8tx eliminuje tę lukę – wagi modeli i przetwarzane informacje pozostają odizolowane oraz zabezpieczone również w trakcie aktywnych operacji. System korzysta z opracowanej przez Google sieci Boardfly o niskich opóźnieniach, oferując nawet dwukrotną redukcję opóźnień względem wariantu TPU 8t. Umożliwia to precyzyjne dostrajanie modeli, ich destylację oraz trenowanie agentów AI metodą uczenia przez wzmacnianie bez konieczności przenoszenia danych między różnymi klastrami.

Z kolei wariant TPU 8i Max odpowiada na problem przepustowości pamięci, który uwidacznia się w zadaniach wieloagentowych operujących na wielkich bazach kodu lub wielogodzinnych materiałach wideo. Google połączyło dwa układy TPU 8i w jednej obudowie (ang. package). W efekcie w tej samej szafie serwerowej udało się podwoić moc obliczeniową, pojemność pamięci oraz jej przepustowość, co bezpośrednio przekłada się na wyższą wydajność z metra kwadratowego centrum danych.

Od własnych potrzeb do rynkowej ofensywy

Równolegle z modernizacją sprzętu Google stara się obniżyć próg wejścia dla inżynierów. Firma udostępniła otwartoźródłowe narzędzie TorchTPU, dzięki któremu kod pisany w bibliotece PyTorch można uruchamiać na procesorach TPU przy minimalnych modyfikacjach. Zapewniono również wsparcie dla popularnych silników serwowania modeli, takich jak vLLM czy SGLang.

Kolejne premiery wpisują się w szerszy zwrot w strategii koncernu z Mountain View – w lipcu pisaliśmy, jak Google zamyka architekturę Gemini w krzemie, a dziś firma rozwija platformę TPU z myślą o klientach zewnętrznych. Google obsługuje już niemal 100 zewnętrznych klientów korzystających z tych akceleratorów. Jak ocenia The Decoder, wraz z przesuwaniem się środka ciężkości branży z kosztownego trenowania modeli na ich codzienną inferencję wyspecjalizowane układy stają się coraz poważniejszą alternatywą dla uniwersalnych procesorów graficznych Nvidii.