Matematyka zamiast testów. Jacob Tsimerman stworzy naukowe podstawy bezpieczeństwa AI
Obecne podejście do bezpieczeństwa systemów sztucznej inteligencji opiera się głównie na metodzie prób i błędów. Model uznaje się za bezpieczny tak długo, jak badaczom nie uda się sprowokować go do szkodliwego działania. Jacob Tsimerman, jeden z najwybitniejszych matematyków i laureat Medalu Fieldsa, zamierza przenieść ten proces na grunt nauk ścisłych. W San Francisco Bay Area powstaje Mathematical A.I. Safety Institute (MAISI), który ma opracować formalne definicje i matematyczne dowody zachowania algorytmów.
Dowody zamiast domysłów
Inicjatywa, która ma rozpocząć działalność w styczniu 2027 roku, stawia na podejście znane z nowoczesnej kryptografii. Podczas gdy stabilność szyfrów opiera się na matematycznych gwarancjach ich niezłamalności, branża AI wciąż nie dysponuje spójną definicją tego, co realnie oznacza „bezpieczeństwo”. Tsimerman, który równocześnie dołączy do zespołu bezpieczeństwa w OpenAI, podkreśla, że sektor ten potrzebuje znacznie wyższych standardów teoretycznych.
MAISI planuje zatrudnić na start od 10 do 30 matematyków. Docelowo zespół ma powiększyć się do 30–100 badaczy. Ich praca skupi się na trzech obszarach:
- tworzeniu formalnych definicji i miar bezpieczeństwa,
- budowie dowodów zachowania systemów w określonych granicach,
- analizie ryzyk wynikających z interakcji między wieloma niezależnymi agentami AI.
Weryfikacja bez ujawniania kodu
Jednym z najciekawszych rozwiązań rozważanych przez instytut jest zastosowanie dowodów zerowej wiedzy (zero-knowledge proofs). Technologia ta mogłaby stać się pomostem między wymogami regulacyjnymi a ochroną własności intelektualnej gigantów technologicznych. Pozwala ona bowiem udowodnić, że dany model spełnia określone normy bezpieczeństwa, bez konieczności udostępniania na zewnątrz wag modelu czy jego kodu źródłowego.
Choć ambicje MAISI są wysokie, Tsimerman nie obiecuje natychmiastowych rozwiązań. Projekt ma charakter fundamentalny i zmierza do stworzenia teorii, które w przyszłości pozwolą budować bezpieczną superinteligencję. Wymaga to jednak odpowiedzi na pytania, które aspekty AI w ogóle poddają się matematycznej dowodzalności – co przy obecnym tempie rozwoju branży pozostaje kwestią otwartą.
