Biznes nie ufa modelom AI. Nvidia i Palantir blokują dostęp do nowej wersji Claude

Największe firmy technologiczne i amerykańscy kontrahenci obronni zaczynają zacieśniać kontrolę nad tym, jak ich pracownicy korzystają z zewnętrznych modeli sztucznej inteligencji. Powodem jest czerwcowa zmiana polityki prywatności firmy Anthropic, która wprowadziła zasadę 30-dniowego przechowywania logów aktywności użytkowników. Dla korporacji operujących na danych wrażliwych taka deklaracja okazała się nie do zaakceptowania. Problem nie dotyczy wyłącznie Anthropic. OpenAI stosuje analogiczną politykę, utrzymując 30-dniowe przechowywanie danych dla swoich klientów komercyjnych, co stawia oba wiodące laboratoria w podobnej pozycji względem wymogów korporacyjnego bezpieczeństwa.

Nvidia, mimo że jest kluczowym inwestorem w Anthropic i dostawcą infrastruktury sprzętowej dla tej firmy, znacząco ograniczyła wykorzystanie jej najnowszego modelu Fable. Producent chipów przesunął narzędzia Anthropic do mniej wrażliwych projektów związanych z open-source, natomiast do kluczowych operacji wewnętrznych, takich jak monitorowanie łańcucha dostaw, wykorzystuje własne modele z rodziny Nemotron. Justin Boitano, wiceprezes ds. biznesowego AI w Nvidii, podkreśla, że zasada Zero Data Retention (ZDR) powinna być standardem i domyślnym ustawieniem usług biznesowych.

Blokady u kontrahentów obronnych

Podobne kroki podjęły inne podmioty pracujące z danymi o krytycznym znaczeniu. Booz Allen Hamilton zabronił pracownikom używania modelu Fable przy pracach nad oprogramowaniem własnościowym z zakresu cyberbezpieczeństwa. Bill Vass, dyrektor ds. technologii w tej firmie, wyraził obawę, że model mógłby uczyć się na podstawie ich unikalnego kodu źródłowego. Standardowa procedura Anthropic zakłada automatyczne usuwanie wejścia i wyjścia z API po upływie 30 dni. Należy jednak zaznaczyć, że istnieją wyjątki od tej reguły dla określonych usług, co dodatkowo komplikuje ocenę ryzyka u klientów wymagających jednolitych i bezwzględnych gwarancji prywatności.

Z kolei Palantir blokuje wdrożenie Fable u swoich klientów, żądając od Anthropic nieodwołalnych gwarancji pełnego usuwania danych w czasie rzeczywistym. Alex Karp, szef Palantiru, stwierdził, że firmy mają dość bycia „eksploatowanymi” przez laboratoria AI. Reakcja ta wymusiła na twórcach modeli pewne ustępstwa – OpenAI udostępniło opcję przechowywania logów bezpieczeństwa na serwerach klientów, a Anthropic zapowiedział podobny program dla wybranych partnerów. Nawet te zapowiedzi budzą jednak wątpliwości. Proponowany program, który ma umożliwić wybranym partnerom przechowywanie logów na własnej infrastrukturze chmurowej, nadal wiąże się z obowiązkiem przechowywania logów przez 30 dni, co nie rozwiązuje problemu całkowitej izolacji danych.

Problem z metadanymi

Eksperci wskazują jednak, że problem leży głębiej niż w samych logach aktywności. Zarówno OpenAI, jak i Anthropic zbierają metadane oraz techniczne informacje o użytkowaniu systemów. Choć laboratoria twierdzą, że dane te są zdeidentyfikowane i służą jedynie bezpieczeństwu, klienci mają trudności z ustaleniem, co dokładnie trafia do tych zbiorów.

• Ślady użytkownika: John Schulman, współzałożyciel OpenAI, zwraca uwagę, że techniki uczenia ze wzmocnieniem na podstawie śladów aktywności pozwalają na wyciąganie unikalnej własności intelektualnej, np. poprzez analizę historii zmian w kodzie.
• Słaba anonimizacja: Zdaniem Schulmana deidentyfikacja jest ograniczona i nie chroni w pełni przed wyciekiem IP, gdyż użytkownika można zidentyfikować na podstawie zaledwie kilku unikalnych wzorców.
• Syntetyczne dane: Sarah Hooker, była badaczka Google DeepMind, ostrzega, że laboratoria potrafią generować dane syntetyczne zachowujące statystyczne wzorce oryginałów bez ich bezpośredniego kopiowania.

Obawy te wzmacniają incydenty takie jak sprawa matematyka Tristana Buckmastera. Podczas prac nad równaniami Naviera-Stokesa przesyłał on szkice obliczeń przez narzędzie Codex od OpenAI. Niedługo potem laboratorium ogłosiło przełom w tym samym obszarze, stosując identyczną ścieżkę rozwiązania. Choć OpenAI zaprzeczyło wykorzystaniu tych danych, incydent ten stał się dla wielu menedżerów bezpieczeństwa korporacyjnego dowodem na kruchość obecnych zabezpieczeń własności intelektualnej.