Gimlet Labs i koniec marnotrawstwa: jak 80 milionów dolarów ma odblokować potencjał AI

W sektorze technologicznym, zdominowanym przez wyścig o każdą wolną jednostkę H100 od Nvidii, panuje paradoksalna sytuacja: mimo gigantycznego zapotrzebowania na moc, istniejące zasoby centrów danych są wykorzystywane w zaledwie 15 do 30 procentach. Zain Asgar, profesor ze Stanfordu i współtwórca Gimlet Labs, nazywa tę sytuację wprost marnotrawstwem setek miliardów dolarów. Jego nowy startup właśnie pozyskał 80 milionów dolarów w rundzie Series A, by dowieść, że problemu wąskich gardeł w sztucznej inteligencji nie trzeba rozwiązywać wyłącznie kupując kolejne kontenery krzemu.

Architektura wielu układów

Kluczem do propozycji Gimlet Labs jest pierwsza w branży chmura wnioskowania typu „multi-silicon”. Zamiast zmuszać deweloperów do optymalizacji pod jeden konkretny model procesora, oprogramowanie Gimlet automatycznie dzieli zadania AI i rozsyła je do najbardziej odpowiednich w danej chwili jednostek. W praktyce oznacza to, że jeden model może pracować jednocześnie na tradycyjnych procesorach CPU, wyspecjalizowanych GPU oraz systemach o dużej przepustowości pamięci.

To podejście wynika z pragmatycznej analizy cyklu życia agentów AI. Współczesne obiegi pracy (workflowy) nie są monolitem: proces wnioskowania obciąża moc obliczeniową, dekodowanie zależy od pamięci, a wywołania zewnętrznych narzędzi od przepustowości sieci. Do tej pory nie powstał jeden czip, który radziłby sobie idealnie z każdym z tych etapów. Gimlet Labs tworzy warstwę orkiestracji, która łata tę lukę, pozwalając na wykorzystanie nawet starszych generacji sprzętu, które dotychczas uznawano za nieefektywne.

Efektywność bez kompromisów

Wyniki prezentowane przez startup robią wrażenie na inwestorach z Menlo Ventures i Sequoia Capital. Technologia Asgara pozwala na zwiększenie szybkości wnioskowania od 3 do 10 razy, nie generując przy tym dodatkowych kosztów energii. Nie jest to jedynie chwyt marketingowy – spółka już teraz generuje ośmiocyfrowe przychody, a wśród jej klientów znajdują się giganci chmurowi oraz czołowe laboratoria rozwijające LLM-y. Współpraca z takimi firmami jak NVIDIA, AMD, Intel czy Cerebras sugeruje, że rynkowi gracze dostrzegają w rozwiązaniu software’owym jedyną realną drogę do powstrzymania lawinowo rosnących wydatków na centra danych, które według prognoz McKinsey mogą osiągnąć 7 bilionów dolarów do 2030 roku.

Doświadczenie, które procentuje

Sukces Gimlet Labs nie jest dziełem przypadku. Zespół założycielski – w tym Michelle Nguyen, Omid Azizi i Natalie Serrino – to ta sama grupa, która stworzyła Pixie, narzędzie do obserwowalności Kubernetes, kupione błyskawicznie przez New Relic. Ich doświadczenie w zarządzaniu złożonymi, rozproszonymi systemami w chmurze zostało teraz przeniesione na grunt AI. W świecie, w którym większość startupów skupia się na budowaniu kolejnych „opakowań” dla GPT-4, Gimlet uderza w fundamenty: sprawia, że sztuczna inteligencja staje się tańsza i bardziej dostępna poprzez optymalizację tego, co już posiadamy.