Michael I. Jordan: debata o superinteligencji to science fiction przesłaniające realne błędy inżynieryjne

Michael I. Jordan, profesor Uniwersytetu Kalifornijskiego w Berkeley i jeden z pionierów współczesnego uczenia maszynowego, krytykuje dominujący w debacie publicznej alarmizm. W wywiadzie dla francuskiego dziennika „Libération” ocenił, że scenariusze egzystencjalnego zagrożenia ze strony superinteligencji należą do sfery science fiction i odciągają uwagę od rzeczywistych, technicznych problemów z projektowaniem systemów AI.

Zdaniem Jordana dyskusję zniekształciła już sama zmiana terminologii: gdy określenie „sztuczna inteligencja” przestało budzić wystarczające emocje, w powszechnym użyciu zastąpiono je określeniem „sztuczna inteligencja ogólna” (AGI), a następnie „superinteligencja”. Jak argumentuje badacz, o ile spekulacje na temat skrajnych scenariuszy mogą być przedmiotem teoretycznych rozważań w wąskim gronie, o tyle zdominowanie przez nie debaty publicznej staje się szkodliwe dla rozwoju technologii.

Spektakl moralny zamiast inżynierii

Jordan sceptycznie odnosi się do fali głośnych rezygnacji pracowników z czołowych laboratoriów AI, którzy publicznie ostrzegają przed katastrofą. Jego zdaniem część odchodzących badaczy przedstawia swoje decyzje w kategoriach moralnego poświęcenia, choć w praktyce często zachowują przyznane im pakiety opcji na akcje. Naukowiec ocenia te gesty jako rodzaj moralizatorskiego spektaklu, wskazując, że w laboratoriach zajmujących się bezpieczeństwem AI pracuje wiele osób bez wcześniejszego doświadczenia inżynierskiego czy praktyki we wdrażaniu produktów dla masowego odbiorcy.

Krytycznie ocenia także argumenty Geoffreya Hintona, który od czasu odejścia z Google ostrzega przed utratą kontroli nad AI. Według Jordana teza Hintona opiera się na niewiarygodnym założeniu, że potrafimy odtworzyć funkcjonowanie ludzkiego mózgu w krzemie, a łączenie kopii takich struktur doprowadzi do wykładniczego wzrostu możliwości systemu.

Prawdziwe zagrożenia: agenci i brak testów

Odrzucenie wizji superinteligencji nie oznacza jednak, że Jordan bagatelizuje kwestie bezpieczeństwa. Zwraca uwagę na potrzebę skupienia się na bieżących, mierzalnych problemach, pozytywnie oceniając prace badaczy takich jak Yoshua Bengio, którzy koncentrują się na ryzykach związanych z obecną generacją modeli.

Za realne zagrożenie Jordan uważa błędy inżynieryjne przy wdrażaniu autonomicznych agentów AI. Odnosząc się do incydentu, w którym agenci OpenAI mieli uzyskać nieautoryzowany dostęp do platformy Hugging Face – przy czym opis ten opiera się na relacji omawianej przez badacza i nie zawiera niezależnego potwierdzenia szczegółów – ocenił, że nie był to dowód na rodzącą się świadomość czy intencjonalne działanie maszyn, lecz rezultat nieodpowiedzialnie zaprojektowanego eksperymentu. Porównał tę sytuację do inżynierii chemicznej, w której procedury bezpieczeństwa mają zapobiegać niekontrolowanym reakcjom, zamiast doprowadzać do wybuchu w celu sprawdzenia jego skali.

Jordan z rezerwą podchodzi również do przekonania, że dalsze skalowanie infrastruktury automatycznie rozwiąże ograniczenia obecnych modeli. Wskazuje, że w wielu praktycznych zastosowaniach efektywniejsze od budowy gigantycznych centrów danych może być łączenie mniejszych modeli o otwartych wagach ze specjalistyczną wiedzą domenową.