Badacz Google DeepMind odchodzi. Uważa dążenie do szybkiego stworzenia superinteligencji za nieodpowiedzialne

Robert O’Callahan, specjalista techniczny w nowozelandzkim oddziale Google DeepMind, zrezygnował z pracy w firmie ze względu na obawy o kierunek i tempo prac nad sztuczną inteligencją. Jak wyjaśnił, tempo zmian w tej dziedzinie jest „zdecydowanie zbyt wysokie”, a dążenie do stworzenia superinteligentnej AI w najbliższej przyszłości uważa za „z natury nieodpowiedzialne”.

W DeepMind O’Callahan nie budował samych modeli, lecz pracował nad narzędziami do projektowania układów scalonych, które miały obniżać koszty i przyspieszać prace obliczeniowe. W uzasadnieniu swojej decyzji przyznał, że nie potrafi już dłużej uzasadniać wkładu w projekty ułatwiające tak szybki postęp technologii.

O’Callahan podkreśla, że ryzyko związane z powstaniem superinteligencji uważa za realne, choć niepewne – nie podziela przekonania, że katastrofalny scenariusz jest nieunikniony. Przewiduje jednak, że potencjalne szkody wywołane przez AI mogą przeważyć nad korzyściami. Wśród zagrożeń wymienia m.in. wstrząsy na rynku pracy, koncentrację władzy, ryzyka dla cyberbezpieczeństwa oraz osłabienie samodzielnego myślenia użytkowników.

Badacz twierdzi, że podobne wątpliwości ma wielu jego dotychczasowych kolegów z DeepMind, choć rzadko decydują się na otwarte deklaracje. Po odejściu z Google O’Callahan zamierza zająć się pracą, którą określa jako jednoznacznie służącą ludziom, nie podał jednak szczegółów swoich dalszych planów.