DeepMind powołuje instytut do spraw AGI. Humanistyka ma pomóc w projektowaniu bezpiecznej technologii

Google DeepMind ogłosiło powołanie DeepMind Institute (DMI) – nowej jednostki badawczej, której zadaniem jest analiza wyzwań związanych z rozwojem sztucznej inteligencji ogólnej (AGI). Platforma ma stać się miejscem debaty nie tylko dla inżynierów Google, ale także dla międzynarodowej społeczności naukowej, w tym przedstawicieli nauk humanistycznych, artystów i twórców polityk publicznych.

Za inicjatywą stoją kluczowe postaci Alphabet i Google: Demis Hassabis (CEO DeepMind), Shane Legg (współzałożyciel i główny naukowiec ds. AGI w DeepMind) oraz James Manyika (wiceprezes Google ds. technologii i społeczeństwa). Zgodnie z założeniami DMI, odpowiedzi na pytania o bezpieczeństwo, ryzyko cyberataków czy potencjalną utratę kontroli nad systemami AI nie powinny pochodzić wyłącznie od technologów. Instytut ma sformalizować współpracę między specjalistami od budowy modeli a ekspertami od etyki i zarządzania publicznego.

Interdyscyplinarne ramy dla AGI

W ramach prac instytutu przyjęto roboczą definicję AGI jako systemu posiadającego możliwości poznawcze dorównujące ludzkiemu mózgowi. W rozmowie z Financial Times Shane Legg zaznaczył, że rozwój możliwości AI nie może wyprzedzać mechanizmów kontroli bezpieczeństwa (AI must not outpace safety controls). DMI ma zająć się nie tylko technicznymi aspektami ochrony przed nadużyciami, ale także szerszymi ramami regulacyjnymi, które przygotują społeczeństwo na pojawienie się tak zaawansowanych systemów.

Powołanie instytutu to reakcja na rosnącą presję czasu, choć w branży brakuje konsensusu co do momentu przełomu:

• Demis Hassabis w wywiadach dla Axios i Time ocenił, że AGI jest oddalone o „kilka lat”, wskazując konkretnie na rok 2030 (z marginesem błędu jednego roku) jako prawdopodobny termin osiągnięcia tego celu.
• Shane Legg wskazuje rok 2028 jako datę narodzin prekursorów takich rozwiązań.
• Sam Altman (OpenAI) prezentuje jeszcze większy optymizm, prognozując powstanie AGI w znacznie krótszej perspektywie.

Mimo tych deklaracji, współczesne modele językowe wciąż napotykają problemy przy prostych zadaniach logicznych i wykazują braki w kreatywności. DMI ma za zadanie przygotować grunt pod zarządzanie technologią w obliczu tej niepewności, tworząc przestrzeń dla badaczy, którzy do tej pory znajdowali się poza głównym nurtem prac inżynieryjnych w Google. Mimo ogłoszenia misji instytutu, Google nie ujawniło dotąd szczegółów organizacyjnych dotyczących DMI. Informacje na temat formy prawnej, budżetu, dokładnej lokalizacji czy stopnia niezależności jednostki względem struktur Alphabet pozostają niedostępne.