Misja kontra zysk: Bezpieczeństwo AI na ławie oskarżonych w sporze Muska z OpenAI
Sąd federalny w Oakland stał się areną konfrontacji, która może przedefiniować przyszłość regulacji sektora AI. Spór wytoczony przez Elona Muska przeciwko OpenAI przestaje być jedynie personalną wendetą miliardera, a staje się merytoryczną analizą tego, jak komercyjne ambicje wpływają na mechanizmy bezpieczeństwa w najbardziej wpływowym laboratorium technologicznym świata.
Produkt ponad procedury
Kluczowe zeznania w sprawie złożyła Rosie Campbell, była członkini zespołu ds. gotowości AGI (AGI Readiness). Jej relacja kreśli obraz organizacji przechodzącej drastyczną metamorfozę. Kiedy w 2021 roku dołączała do firmy, priorytetem były badania i teoretyczne aspekty bezpieczeństwa. Jednak w obliczu wyścigu zbrojeń o rynkową dominację, struktury odpowiedzialne za nadzór – w tym zespół Super Alignment – zostały rozwiązane. Według Campbell, OpenAI ewoluowało z podmiotu badawczego w maszynę nastawioną na wypuszczanie kolejnych produktów na rynek.
Jako konkretny przykład erozji standardów wskazano wdrożenie modelu GPT-4 w wyszukiwarce Bing w Indiach przez Microsoft. Operacja ta miała się odbyć przed oficjalną ewaluacją przez wewnętrzną komisję ds. bezpieczeństwa wdrożeń (DSB). Choć sam model nie został uznany za bezpośrednio groźny, Campbell podkreśliła w sądzie, że w branży AI precedensy są kluczowe – ignorowanie list kontrolnych bezpieczeństwa przy mniej ryzykownych modelach otwiera drogę do niebezpiecznych zaniedbań w przyszłości, gdy technologia stanie się potężniejsza.
Zarząd w pułapce dezinformacji
Zeznania Tashy McCauley, byłej członkini zarządu non-profit, obnażyły dysfunkcyjny model nadzoru nad komercyjną odnogą firmy. McCauley potwierdziła krążące od dawna plotki o nieprzejrzystym stylu zarządzania Sama Altmana. To właśnie brak zaufania i poczucie bycia manipulowanym stały za głośną, choć krótkotrwałą próbą usunięcia Altmana ze stanowiska w 2023 roku.
Lista zarzutów wobec CEO jest długa: od zatajenia premiery ChatGPT przed własną radą nadzorczą, po rzekome wprowadzanie członków zarządu w błąd w celu wykluczenia osób krytycznych wobec polityki bezpieczeństwa firmy. McCauley argumentowała, że struktura non-profit, która miała kontrolować zorientowaną na zysk spółkę zależną, stała się fikcją, gdy zarząd przestał otrzymywać rzetelne informacje niezbędne do podejmowania decyzji.
Systemowa porażka nadzoru
Dla prawników Muska te zeznania to woda na młyn. Argumentują oni, że OpenAI złamało pierwotną umowę założycielską, w której bezpieczeństwo ludzkości miało stać ponad dywidendami. David Schizer, ekspert powołany przez zespół Muska, zauważył, że deklaratywne priorytetyzowanie bezpieczeństwa traci na znaczeniu, jeśli procesy weryfikacyjne są pomijane w imię tempa wdrożeń rynkowych.
Interesującym wątkiem podczas procesu była próba obrony OpenAI poprzez porównanie do konkurencji. Prawnicy spółki zmusili Campbell do przyznania, że w jej „spekulatywnej opinii” standardy OpenAI pozostają wyższe niż te w xAI – firmie należącej do Muska. To jednak nie zmienia faktu, że obecna sytuacja OpenAI staje się koronnym argumentem dla zwolenników twardych regulacji państwowych. Jak podsumowała McCauley, pozostawienie decyzji o globalnym bezpieczeństwie w rękach jednego CEO, działającego bez skutecznego nadzoru, jest scenariuszem wysoce suboptymalnym dla interesu publicznego.
