AGI jako sieć współpracy, nie pojedyncza maszyna. Nowa koncepcja badaczy z Google
Popularne wyobrażenie sztucznej inteligencji ogólnej zakłada powstanie pojedynczego, odizolowanego modelu, który przewyższy możliwościami człowieka i wejdzie w fazę nieustannego samodoskonalenia. W eseju opublikowanym przez DeepMind Institute badacze Benjamin Bratton, Blaise Agüera y Arcas oraz James Manyika proponują inną perspektywę: rozwój AGI jako systemu społecznego, w którym ludzie, agenci AI oraz reguły instytucjonalne tworzą powiązaną sieć. Swoją propozycję określają mianem Artificial Symbiotic Intelligence — sztucznej inteligencji symbiotycznej.
W tej optyce głównym wyzwaniem badawczym i inżynieryjnym przestaje być wyłącznie zwiększanie parametrów pojedynczego modelu. Kluczowa staje się umiejętność koordynowania i zarządzania wieloelementową siecią, w której zadania są rozdzielane pomiędzy wyspecjalizowane komponenty oraz ludzkich operatorów. Autorzy zaznaczają, że jest to propozycja koncepcyjna, a nie gotowy czy nieuchronny scenariusz przyszłości.
Agent jako zestaw narzędzi, nie cyfrowa osoba
Istotnym elementem koncepcji jest zmiana definicji samego agenta AI. Zamiast widzieć w nim trwałą, autonomiczną osobowość na wzór człowieka, autorzy opisują agenta jako tymczasowy układ: zestaw modeli, ról, pamięci operacyjnej, reguł i narzędzi, który jest montowany na potrzeby konkretnego zadania i może zostać w każdej chwili przebudowany.
Człowiek zawdzięcza tożsamość i ciągłość biologicznej strukturze mózgu. Systemy sztucznej inteligencji takiego ograniczenia nie mają, dlatego przypisywanie im stałego profilu psychologicznego może zaciemniać sposób, w jaki faktycznie operują. W praktyce jeden użytkownik może równolegle koordynować pracę dziesiątek wyspecjalizowanych procesów o zróżnicowanych uprawnieniach i funkcjach.
Od pojedynczych modeli do procedur i instytucji
Jako wczesną analogię autorzy przywołują narzędzia orkiestracji, które dzielą złożone problemy między kilka mniejszych modeli. Podobne mechanizmy widać także w badaniach nad śladami rozumowania generowanymi przez najnowsze modele logiczne, gdzie proces generowania odpowiedzi przypomina wewnętrzną debatę, testowanie hipotez i korygowanie błędów. Esej ekstrapoluje ten mechanizm z poziomu kodu na poziom struktur organizacyjnych.
Współpraca wielu podmiotów wymaga jednak czegoś więcej niż samych interfejsów komunikacyjnych. W eseju wskazano na konieczność tworzenia procedur, precedensów i instytucji regulujących interakcje ludzi z maszynami — na wzór systemów prawnych czy procedur sądowych, w których wynik zależy od precyzyjnie przypisanych ról i reguł dowodowych.
Takie podejście modyfikuje również debatę o dopasowaniu AI do ludzkich wartości (alignment). Zdaniem autorów normy i ograniczenia nie muszą być raz na zawsze zakodowane w wagach pojedynczego modelu w postaci niezmiennego zbioru zasad. Mogą być raczej przedmiotem ciągłych ustaleń i weryfikacji wewnątrz systemu społeczno-technologicznego, w którym instytucje definiują granice dopuszczalnych działań maszyn.
