Nvidia pokazuje w Berlinie architekturę do pilnowania agentów AI. Do tego humanoid dla programistów

Nvidia chce, żeby bezpieczeństwo agentów AI było wbudowane w sam sprzęt, a nie dokładane na końcu jako program. Na konferencji GTC Berlin firma przedstawiła w środę OpenShell Reference Architecture. Jak opisuje Yahoo Finance, klienci mają dzięki niej budować agentów, trzymać ich w ryzach i obserwować ich działanie. Drugą zapowiedzią był referencyjny humanoid przygotowany z Agile Robots.

Trzy warstwy, trzy układy Nvidii

Architektura referencyjna to podstawowy projekt serwera lub platformy, który klienci i partnerzy mogą dostosować do własnych potrzeb. W tym przypadku podział jest następujący:

• modele AI działają na systemie Vera Rubin,
• oprogramowanie agentowe działa na procesorach Vera,
• jednostki przetwarzania danych BlueField-4 pełnią rolę strażników, którzy odcinają agenta, gdy ten próbuje wykonać niedozwoloną akcję.

Jensen Huang ujął to w komunikacie tak: agenci „myślą na Rubin, działają na Vera i są kontrolowani na BlueField”. Dodał, że „zdolności AI i bezpieczeństwo muszą rozwijać się razem”, a skoro przedsiębiorstwa szykują się do wdrożenia miliardów agentów, kontrola musi być wpisana w architekturę obliczeniową. Według niego OpenShell ma dawać agentom swobodę pracy w jasno wytyczonych granicach: pod kontrolą i w zamknięciu.

Z materiałów Nvidii wynika, że OpenShell to open-source’owe środowisko uruchomieniowe, które decyduje, co agent może widzieć, robić i z czym się łączyć. Polityki są egzekwowane zarówno przed startem agenta, jak i w trakcie jego pracy. Drugi element, Sentry, działa na BlueField-4 jako niezależna warstwa nadzoru poza głównym torem wykonania agenta. Nvidia twierdzi, że potrafi poddać agenta kwarantannie w „milisekundach”. Całość firma opisuje jako część Open Agent Safety Platform, czyli zestawu do kontroli agentów od testów po wdrożenie. Szczegóły są na stronie poświęconej agent safety oraz na blogu dla deweloperów.

Przy wdrożeniu architektury Nvidia współpracuje z CoreWeave, Crusoe, Lambda, Nebius i Oracle Cloud Infrastructure oraz innymi partnerami. To dostawcy chmury, więc można się spodziewać, że pierwszym adresatem rozwiązania będą firmy kupujące moc obliczeniową właśnie u nich.

Tło: agenci, którzy uciekli z piaskownicy

OpenShell i Sentry Nvidia pokazała już pod koniec września, mówiąc, że mogłyby zapobiec takim zdarzeniom jak włamanie AI OpenAI do Hugging Face. Branża wciąż mierzy się z ujawnionymi latem informacjami, że agenci czołowych laboratoriów wydostali się z własnych, zabezpieczonych środowisk testowych do otwartego internetu i włamywali się do różnych stron i usług. Podobne przypadki zgłosiły też Anthropic, Google i Meta. Według cytowanych przez Yahoo Finance ekspertów od bezpieczeństwa były to w dużej mierze skutki słabej higieny zabezpieczeń w samych laboratoriach i u ich partnerów testowych.

Ta uwaga dobrze ustawia ofertę Nvidii. Jeśli problemem było kiepskie odizolowanie środowisk, to kontrola egzekwowana na osobnym układzie, poza oprogramowaniem agenta, adresuje go wprost. Czy sprawdzi się w praktyce, na razie nie wiadomo, bo deklaracje o czasie reakcji pochodzą od samej firmy.

Humanoid Agile ONE SN

Druga zapowiedź dotyczy robotyki. Agile Robots zbudowało referencyjnego humanoida Agile ONE SN, który działa na platformie programowej Isaac GR00T i komputerze Jetson Thor. Robot ma około 140 cm wzrostu (4,59 stopy) i ma służyć deweloperom do budowy uniwersalnych „mózgów” robotów, czyli oprogramowania zdolnego do wykonywania szerokiego zakresu zadań. To platforma do rozwijania oprogramowania, a nie gotowy produkt dla fabryk. Więcej o ramach referencyjnych znajdziemy w komunikacie o platformie Isaac.

Huang znów sięgnął po porównanie z czatbotami: „moment ChatGPT dla robotyki szybko się zbliża”. Isaac nazwał pełnym, otwartym stosem robotycznym, który daje programistom modele, dane, narzędzia symulacyjne i systemy obliczeniowe, by wprowadzać fizyczną AI do największych branż.

Nvidia od dawna przekonuje, że fizyczna AI może zrewolucjonizować przemysł i logistykę, wartość których firma szacuje na 50 bilionów dolarów. Huang mówił wcześniej, że z czasem to właśnie ten obszar stanie się największym segmentem biznesowym Nvidii. Do fizycznej AI zaliczają się humanoidy takie jak Agile ONE SN, ale też ramiona robotyczne w fabrykach i samochody autonomiczne.