Tigris Data rzuca wyzwanie gigantom chmurowym, oferując zdecentralizowaną przestrzeń danych dla AI

Wzrost popularności firm specjalizujących się w sztucznej inteligencji wywindował zapotrzebowanie na moc obliczeniową do bezprecedensowych poziomów. Spółki takie jak CoreWeave, Together AI i Lambda Labs wykorzystały ten trend, przyciągając ogromne zainteresowanie i kapitał, dzięki swojej zdolności do oferowania rozproszonej mocy obliczeniowej. Tigris Data chce przenieść tę rewolucję do świata przechowywania danych.

Większość firm nadal przechowuje dane u trzech głównych dostawców chmurowych: AWS, Google Cloud i Microsoft Azure. Ich systemy przechowywania zostały zaprojektowane z myślą o utrzymywaniu danych blisko własnych zasobów obliczeniowych, a nie o ich rozproszeniu w wielu chmurach lub regionach.

„Współczesne obciążenia AI i infrastruktura AI wybierają computing rozproszony zamiast dużych chmur” – powiedział TechCrunch Ovais Tariq, współzałożyciel i dyrektor generalny Tigris Data. „Chcemy zapewnić tę samą opcję dla przechowywania danych, ponieważ bez storage’u, moc obliczeniowa jest niczym”.

Platforma Tigris Data, zgodnie z obietnicami, ma automatycznie replikować dane tam, gdzie znajdują się zasoby obliczeniowe (np. GPU), obsługiwać miliardy małych plików i zapewniać niskie opóźnienia w dostępie do danych potrzebnych do trenowania, wnioskowania i innych zadań związanych z AI.

Koniec z „podatkiem chmurowym”?

Tariq krytykuje dotychczasowych gigantów chmurowych za wysokie opłaty za transfer danych (tzw. egress fees), które nazywa „podatkiem chmurowym”. Opłaty te są pobierane, gdy klient chce przenieść dane do innego dostawcy chmurowego lub pobrać je, aby na przykład wykorzystać tańsze GPU albo trenować modele w różnych częściach świata jednocześnie.

Według Batuhana Taskayi, szefa inżynierów w Fal.ai, jednego z klientów Tigris, opłaty za transfer danych stanowiły znaczną część wydatków Fal.ai na chmurę.

Lokalizacja danych kluczem do sukcesu

Tariq podkreśla, że opłaty za transfer danych to tylko jeden z problemów związanych z centralizacją przechowywania danych. Kolejnym wyzwaniem są opóźnienia w dostępie do danych, które mogą spowalniać działanie aplikacji AI. „Opłaty za transfer danych to tylko jeden z symptomów głębszego problemu: scentralizowanego przechowywania, które nie nadąża za zdecentralizowanym, szybkim ekosystemem AI” – powiedział Tariq.

Większość z ponad 4000 klientów Tigris to startupy z obszaru generatywnej AI, które budują modele obrazów, wideo i głosu, i które operują na dużych zbiorach danych wrażliwych na opóźnienia.

„Wyobraź sobie rozmowę z agentem AI, który przetwarza lokalny dźwięk” – mówi Tariq. „Chcesz mieć jak najniższe opóźnienia. Chcesz, aby twoje zasoby obliczeniowe znajdowały się lokalnie, blisko ciebie, i chcesz, aby twoje dane również były przechowywane lokalnie”.

Jego zdaniem, duże chmury nie są zoptymalizowane pod kątem obciążeń AI. Przesyłanie strumieniowe ogromnych zbiorów danych do trenowania lub uruchamianie wnioskowania w czasie rzeczywistym w wielu regionach może powodować wąskie gardła i spowalniać wydajność modelu. Dostęp do lokalnego storage’u oznacza szybsze pobieranie danych, co umożliwia deweloperom niezawodne i bardziej efektywne kosztowo uruchamianie obciążeń AI w zdecentralizowanych chmurach.

Firmy chcą również mieć dane bliżej swoich rozproszonych opcji chmurowych również z innych powodów. W sektorach regulowanych, takich jak finanse i opieka zdrowotna, jednym z głównych problemów w adopcji narzędzi AI jest zapewnienie bezpieczeństwa danych.

Tariq dodaje, że firmy coraz częściej chcą mieć kontrolę nad swoimi danymi. „Firmy są coraz bardziej świadome tego, jak ważne są dane, jak napędzają LLM-y i AI” – mówi Tariq. „Chcą mieć większą kontrolę. Nie chcą, żeby ktoś inny miał nad nimi kontrolę”.

Ambitne plany rozwoju

Dzięki nowemu finansowaniu, Tigris zamierza kontynuować budowę centrów danych, aby sprostać rosnącemu popytowi. Tariq twierdzi, że startup od czasu założenia w listopadzie 2021 roku rośnie w tempie 8x rocznie. Tigris ma już trzy centra danych w Wirginii, Chicago i San Jose, i planuje dalszą ekspansję w USA oraz w Europie i Azji, konkretnie w Londynie, Frankfurcie i Singapurze.