Badacze AI ostrzegają: automatyzacja prac badawczych może gwałtownie przyspieszyć rozwój modeli

Grupa ponad 20 badaczy sztucznej inteligencji opublikowała ostrzeżenie przed skutkami automatyzacji prac badawczo-rozwojowych nad kolejnymi modelami. Wśród sygnatariuszy artykułu znaleźli się m.in. laureaci nagrody Turinga Geoffrey Hinton i Yoshua Bengio oraz szef badań w OpenAI Jakub Pachocki.

Główną osią ostrzeżenia nie jest samo zwiększanie mocy obliczeniowej obecnych modeli, lecz mechanizm sprzężenia zwrotnego: wykorzystanie sztucznej inteligencji do projektowania i ulepszania jej kolejnych generacji. Według autorów publikacji systemy AI piszą już obecnie większość kodu w firmach zajmujących się ich rozwojem.

Naukowcy oceniają, że pełna automatyzacja procesu badawczo-rozwojowego może nastąpić w ciągu kilku lat. W takim scenariuszu postęp technologiczny, który dotychczas wymagał lat pracy zespołów inżynierskich, mógłby dokonywać się w ciągu miesięcy. Autorzy zaznaczają jednak, że tak zwana „eksplozja inteligencji” jest potencjalnym scenariuszem obarczonym dużą niepewnością, a nie przesądzonym faktem.

W ocenie sygnatariuszy gwałtowne tempo zmian mogłoby znacząco utrudnić weryfikację bezpieczeństwa i zachowanie kontroli nad nowo powstającymi modelami. Dlatego badacze postulują, aby decydenci i instytucje regulacyjne uzyskali znacznie lepszy wgląd w to, w jakim stopniu laboratoria technologiczne automatyzują własne procesy badawcze.