Huawei, Alibaba i Tencent podpisały pakt samodyscypliny dla agentów AI
Chińska Akademia Technologii Informacyjnych i Komunikacyjnych (CAICT), instytut podległy Ministerstwu Przemysłu i Technologii Informacyjnych, wraz z Huawei, Alibabą, Tencentem i Xiaomi opublikowała „Konwencję samodyscypliny w rozwoju agentów AI”. Jak podaje ChinaTechNews, dokument ogłosiło w środę 20 organizacji założycielskich podczas szczytu World Internet Conference w Wuzhen.
Konwencja obejmuje osiem obszarów:
- systemy zaufania i weryfikacji dla autonomicznych agentów,
- wspólna infrastruktura łącząca rozproszone sieci agentów,
- interoperacyjność między platformami różnych producentów,
- zabezpieczenia przed lukami i złośliwym wykorzystaniem,
- wewnętrzne mechanizmy nadzoru i zarządzania algorytmami,
- ochrona danych i praw konsumentów w środowiskach wieloagentowych,
- wdrażanie agentów w przemyśle i handlu,
- równy dostęp do podstawowych technologii i otwartych ekosystemów deweloperskich.
Zobowiązania są dobrowolne. Firmy założycielskie deklarują, że same będą wdrażać zasady paktu i poddadzą procesy tworzenia agentów nadzorowi stowarzyszeń branżowych oraz opinii publicznej. Nie wiadomo, jak ten nadzór miałby wyglądać ani jakie konsekwencje grożą za naruszenia. Trudno więc ocenić, czy to coś więcej niż deklaracja.
Warto zwrócić uwagę na proporcje. Tylko część punktów dotyczy ograniczeń i bezpieczeństwa. Interoperacyjność, wspólna infrastruktura i integracja z przemysłem to z kolei cele czysto rozwojowe. Pakt ma więc równocześnie porządkować rynek i go przyspieszać. Tło jest czytelne: duże chińskie firmy przesuwają strategie z generatywnej AI w stronę agentów, czyli oprogramowania, które samodzielnie wykonuje wieloetapowe zadania, korzysta z zewnętrznych narzędzi i steruje firmowymi procesami.
Po wytycznych i wcześniejszych deklaracjach
Konwencja nie powstała w próżni. O wymogach technicznych, w tym o możliwości natychmiastowego zablokowania agenta przez człowieka, pisaliśmy we wrześniu.
Skala, o której mówi branża, tłumaczy pośpiech. Huawei prognozuje, jak relacjonował Reuters, że do 2035 r. autonomiczni agenci mogą odpowiadać za ponad 90% globalnego ruchu tokenów AI. Jednocześnie Reuters zwracał we wrześniu uwagę, że chińscy agenci AI potrafią kłamać i knuć, podobnie jak ich amerykańscy rywale.
Problem widać też po stronie klientów biznesowych. Według Seoul Economic Daily Tencent twierdzi, że pierwsze pytanie firm wdrażających AI dotyczy tego, jak zostaną zabezpieczone ich dane. Pakt z Wuzhen odpowiada na te obawy, ale jego wartość zależy od tego, czy sygnatariusze pokażą, jak weryfikowane są ich zobowiązania.
