Kod stał się układem nerwowym AI. Prawdziwa autonomia dzieje się poza modelem

Kiedy Claude Code od Anthropic omyłkowo ujawnił 500 tysięcy linii swojego kodu źródłowego, branża zobaczyła coś więcej niż błąd bezpieczeństwa. Wyciek pokazał mechanizm „śnienia” – specyficzną funkcję konsolidacji zadań, która dowodzi, że inteligencja agenta nie siedzi w samym modelu językowym, ale w sposobie, w jaki kod nim steruje. To sygnał, że skończył się czas zachwytów nad ogromnymi sieciami neuronowymi, a zaczął wyścig o to, co badacze z Mety i Stanforda nazywają „uprzężą”.

Koniec ery bezstanowych algorytmów

Dlaczego to ważne właśnie teraz? Ponieważ rozwój AI uderzył w ścianę czystej skali. Kolejne miliardy parametrów nie czynią modeli mądrzejszymi w działaniu. Branżowi giganci od OpenAI po Microsoft i Google przestawiają zwrotnicę na budowę złożonych systemów operacyjnych wokół LLM. To te „uprzęże” decydują o tym, czy agent wykona przelew i zaplanuje podróż, czy utknie w nieskończonej pętli błędów. Kod sterujący staje się głównym wektorem kontroli i, co ważniejsze, największym ryzykiem.

Badacze z University of Illinois, Mety oraz Stanforda w swojej najnowszej analizie wprost redefiniują rolę kodu. Nie jest on wynikiem pracy maszyny, lecz jej fundamentem. Bez tej warstwy LLM pozostaje algorytmem, który każde zadanie zaczyna od zera, pozbawiony pamięci i kontaktu z rzeczywistością. Dopiero piaskownice do bezpiecznego uruchamiania skryptów i pętle zwrotne zmieniają statyczny tekst w działające narzędzie. To dzięki nim operacje AI stają się mierzalne i powtarzalne.

Trzy poziomy dominacji: od promptu do ekipy agentów

Analiza dzieli ewolucję systemów na trzy etapy. Pierwszy już znamy: AI zamiast pisać wypracowania, generuje kod, który rozwiązuje konkretne problemy matematyczne czy logiczne. Drugi to stabilność, czyli cykl: zaplanuj, wykonaj, sprawdź, popraw. Trzeci poziom to już nie pojedynczy asystent, a całe zespoły agentów. Kod służy im jako wspólny język, pozwalając wyspecjalizowanym modułom – od strategów po testerów – współpracować nad jednym projektem bez udziału człowieka.

Rynek nie czeka na publikacje naukowe. Chiński DeepSeek stworzył w Pekinie dedykowany zespół Harness, który ma jeden cel: zbudować infrastrukturę zdolną okiełznać modele. To brutalna walka o zatarcia granicy między agentem a środowiskiem programistycznym. Następne generacje, jak choćby wyczekiwany GPT-5-Codex, prawdopodobnie będą uczone nie na książkach, a na zapisach milionów godzin sesji, w których AI zmagała się z błędami w kodzie.

Złudne poczucie bezpieczeństwa

Mimo technicznego entuzjazmu, autorzy raportu ostrzegają przed ślepą wiarą w zielone ikonki testów automatycznych. Kod generowany przez AI może przejść testy jednostkowe, a jednocześnie ukrywać luki logiczne, których dzisiejsze symulatory po prostu nie widzą. Niezawodność nie przyjdzie z lepszych instrukcji (promptów). Wymaga rygorystycznej, niemal obsesyjnej kontroli nad każdym przejściem między stanami systemu. W świecie autonomicznych agentów największym zagrożeniem nie jest to, że AI nas nie zrozumie, ale to, że wykona nasze polecenie w sposób, którego nikt nie monitorował.