Niv-AI wychodzi z cienia. Startup chce wycisnąć ostatnie waty z farm GPU

W sektorze sztucznej inteligencji energia elektryczna stała się towarem równie deficytowym, co same chipy. Choć świat patrzy na wydajność obliczeniową mierzoną w teraflopach, operatorzy gigantycznych „fabryk AI” zmagają się z prozaicznym, ale kosztownym problemem: niestabilnością poboru prądu. Jak zauważył Jensen Huang podczas konferencji GTC, każdy niewykorzystany wat to realna utrata przychodów. Obecnie centra danych, obawiając się przeciążenia infrastruktury, dławią wydajność GPU o nawet 30%, by uniknąć awaryjnych skoków napięcia.

Precyzja co do milisekundy

Rozwiązaniem tego impasu ma być technologia opracowana przez Niv-AI. Startup z Tel Awiwu, założony przez Tomera Timora i Edwarda Kizisa, właśnie wyszedł z fazy stealth, ogłaszając rundę finansową seed w wysokości 12 milionów dolarów. Inwestorzy, wśród których znaleźli się m.in. Glilot Capital i Grove Ventures, stawiają na ambitny plan: stworzenie „warstwy inteligencji” łączącej serwerownie z siecią energetyczną. Kluczem do sukcesu są autorskie sensory montowane bezpośrednio w szafach rackowych.

Problem, który rozwiązuje Niv-AI, wynika ze specyfiki pracy nowoczesnych modeli językowych. Podczas gdy tysiące procesorów przełączają się między fazą obliczeń a komunikacją z innymi jednostkami, dochodzi do gwałtownych skoków zapotrzebowania na moc, trwających ułamki milisekund. Tradycyjne systemy zarządzania budynkiem są zbyt wolne, by na nie reagować. W efekcie operatorzy albo inwestują w kosztowne systemy podtrzymywania energii, albo profilaktycznie ograniczają moc chipów, co drastycznie obniża stopę zwrotu z inwestycji w sprzęt wart miliardy dolarów.

Koniec z projektowaniem „po staremu”

Lior Handlesman z Grove Ventures stawia sprawę jasno: dotychczasowe metody budowy centrów danych przestały być wydajne. Strategia Niv-AI zakłada najpierw głęboką analitykę – firma zbiera dane o profilach energetycznych konkretnych zadań głębokiego uczenia. Docelowo powstać ma model AI – swojego rodzaju „kopilot” dla inżynierów infrastruktury – który będzie przewidywał i synchronizował obciążenia prądowe w czasie rzeczywistym.

Dla gigantów technologicznych, którzy napotykają na bariery w budowie nowych obiektów ze względu na ograniczenia gruntowe i logistyczne, optymalizacja istniejących zasobów jest jedyną drogą naprzód. Niv-AI planuje wdrożenie swojego systemu w wybranych amerykańskich centrach danych w ciągu najbliższych sześciu do ośmiu miesięcy. Jeśli technologia się sprawdzi, może stać się brakującym ogniwem, które pozwoli sieciom energetycznym „przestać bać się” centrów danych, a tym ostatnim – pracować na pełnych obrotach bez ryzyka blackoutu.