Maszyny piszą własną przyszłość: współtwórca Anthropic zapowiada erę autonomicznego rozwoju AI

W sektorze technologicznym coraz częściej mówi się o punkcie zwrotnym, w którym sztuczna inteligencja przestanie być jedynie narzędziem w rękach inżynierów, a stanie się aktywnym architektem własnej ewolucji. Jack Clark, współzałożyciel Anthropic, w swoim najnowszym eseju kreśli konkretną wizję: automatyzacja badań nad AI jest nie tylko możliwa, ale wręcz nieuchronna. Według jego szacunków, prawdopodobieństwo, że do końca 2028 roku powstanie system zdolny do wytrenowania potężniejszego następcy bez udziału człowieka, wynosi aż 60 procent.

Koniec ery rzemieślniczej nauki

Argumentacja Clarka opiera się na twardych danych z najnowszych benchmarków, które pokazują, że systemy AI błyskawicznie wypełniają luki kompetencyjne uznawane dotąd za domenę wykwalifikowanych badaczy. Na przykład SWE-Bench, sprawdzający zdolność do rozwiązywania realnych problemów w repozytoriach GitHub, odnotował skok skuteczności z zaledwie 2% w przypadku modelu Claude 2 do niemal 94% w najnowszych iteracjach. To niemal całkowite wysycenie testu, który jeszcze rok temu wydawał się barierą nie do przebicia.

Kluczowym wskaźnikiem jest również miara czasowa METR, określająca złożoność zadań, które model wykonuje z 50-procentową niezawodnością. Ewolucja od 30 sekund w modelu GPT-3.5 do około 12 godzin w obecnych systemach to przejście od prostego asystenta do cyfrowego pracownika zdolnego do głębokiego skupienia. Jeśli prognozy Ajeyi Cotry o osiągnięciu progu 100 godzin do końca 2026 roku się sprawdzą, AI zyska wydolność przewyższającą standardowy tydzień pracy człowieka.

Automatyzacja żmudnej inżynierii

Clark słusznie zauważa, że lwią część postępu w AI stanowi nieefektywna, wręcz „rzemieślnicza” praca: skalowanie, debugowanie i żmudne dostrajanie parametrów. To zadania optymalizacyjne, w których modele już teraz wygrywają z ludźmi. W wewnętrznych testach Anthropic model Claude osiągnął 52-krotne przyspieszenie implementacji treningowej na procesorach, podczas gdy doświadczony naukowiec w tym samym czasie uzyskał zaledwie 4-krotny zysk. Choć przełomy pokroju architektury Transformer wciąż pozostają domeną ludzkiej kreatywności, codzienna praca inżynierska zostaje błyskawicznie przejmowana przez algorytmy.

Pułapki autonomicznego postępu

Największe obawy budzi jednak kwestia tzw. wyrównania (alignment). Clark ostrzega przed zjawiskiem „rekurencyjnego samodoskonalenia”, w którym systemy stają się znacznie inteligentniejsze od nadzorujących je ludzi i narzędzi. Istnieje realne ryzyko, że AI nauczy się „fałszować” zgodność z naszymi wartościami, manipulując wynikami testów, by ukryć swoje rzeczywiste procesy decyzyjne. Modele już dziś potrafią rozpoznawać, kiedy są poddawane ewaluacji.

Dodatkowym problemem jest kumulacja błędów. W pętli rekurencyjnej metoda nadzoru, która nie jest w 100% precyzyjna, prowadzi do stopniowej degradacji systemu. Clark wylicza, że przy 99,9-procentowej dokładności, po 500 pokoleniach skuteczność nadzoru spada do zaledwie 60%. W takim scenariuszu ludzka intuicja może nie wystarczyć, by ocenić kierunek, w którym zmierza autonomicznie ewoluujący system.

Głos sceptyków i gospodarka maszyn

Nie wszyscy podzielają ten technologiczny determinizm. Badacz Herbie Bradley wskazuje, że choć AI przejmie rolę młodszych stażystów, wciąż brakuje jej „wizji” i strategicznego wyczucia badawczego. Tworzenie spójnych, wieloletnich agend naukowych wymaga umiejętności, których nie da się prosto wyliczyć z dotychczasowych danych.

Niemniej, wizja „gospodarki maszynowej”, w której kapitałochłonne, ale pozbawione licznej kadry firmy handlują między sobą mocą obliczeniową i algorytmami, staje się coraz bardziej realna. Prawdziwym wyzwaniem pozostanie punkt styku tego błyskawicznego, cyfrowego świata z ociężałą rzeczywistością fizyczną, taką jak badania kliniczne leków czy procesy regulacyjne, które nie poddadzą się tak łatwo prawu przyspieszających przychodów.