Karp: za hasłami o bezpieczeństwie AI stoi chęć uniknięcia pozwów

Alex Karp, dyrektor generalny Palantir Technologies, w rozmowie z CNBC stwierdził, że laboratoria pracujące nad najbardziej zaawansowanymi modelami AI — jego zdaniem także Anthropic — używają narracji o zagrożeniach płynących z ich technologii, by przenieść odpowiedzialność prawną za szkody na rządy, a nie na sądy.

Karp mówił w programie „Squawk on the Street”, że publiczna debata o bezpieczeństwie AI nie jest w istocie sporem o nadzór. Chodzi o uniknięcie pozwów. „Według nich te firmy trzeba nacjonalizować, bo jeśli się tego nie zrobi, wszyscy moi klienci pozwą” — relacjonował stanowisko laboratoriów. „Pierwszą linią obrony jest odpowiedzialność za własne działania” — dodał.

Zamiast dobrowolnych zobowiązań dotyczących bezpieczeństwa Karp proponuje odpowiedzialność cywilną i karną twórców modeli. Firmy powinny rozliczać się ze skutków swoich działań, zanim rządy nałożą nowe regulacje.

W tej samej rozmowie Karp mówił jednak, że firmy budujące AI potrzebują „severe liability protection” — silnej ochrony przed odpowiedzialnością prawną — a jego zdaniem mógłby ją zapewnić wyłącznie rząd Stanów Zjednoczonych. Jego stanowisko nie jest więc jednoznacznie antyregulacyjne: twórcy modeli mają odpowiadać za skutki swoich działań, ale potrzebują też ram ochronnych, których nie da im nikt inny niż państwo.

Kilka dni przed jego wypowiedzią dyrektor generalny Anthropic Dario Amodei opublikował esej, w którym przekonywał, że branża powinna zwolnić tempo rozwoju modeli. Zaproponował trzyetapowe podejście do „pacingu”, czyli świadomego zwalniania tempa prac nad kolejnymi modelami. W eseju wskazywał też na potrzebę niezależnego monitoringu modeli oraz regulacji — zarówno na poziomie branżowym, jak i globalnym. Zapowiedział też, że jego firma jednostronnie podejmie pierwszy z trzech proponowanych kroków — udostępni zewnętrznym ewaluatorom stały dostęp do swoich systemów na poziomie pracowniczym.

Oba wystąpienia dotyczą tego samego pytania: kto ponosi odpowiedzialność, gdy zaawansowana AI wyrządzi szkodę — twórca modelu, jego klient czy rząd. Karp odpowiada, że adresatem roszczeń powinien być twórca. Nie wiadomo, czy Anthropic lub inne laboratoria odniosły się do jego zarzutów.