George Hotz ostrzega przed plagą AI w programowaniu: To będzie najdroższy błąd w historii branży

George Hotz, legendarny haker znany jako „geohot”, nie ma dobrych wiadomości dla entuzjastów automatyzacji. Po miesiącach testów przy projekcie tinygrad, człowiek, który jako pierwszy złamał zabezpieczenia iPhone’a, przeszedł do obozu twardych sceptyków. Twierdzi, że bezkrytyczne zaufanie do modeli językowych (LLM) w inżynierii to budowanie fundamentów pod technologiczną katastrofę.

Dlaczego to ważne teraz? Debata o roli AI w IT wybuchła z nową siłą wraz z masową adopcją narzędzi typu GitHub Copilot i wysypem agentów kodujących. Jednocześnie raporty wskazują na niepokojący trend: choć produkujemy więcej kodu, jego ogólna jakość w publicznych repozytoriach zaczyna zauważalnie spadać. Ostrzeżenia Hotza uderzają w sam środek tego napięcia między pogonią za szybkością a stabilnością systemów, od których zależy działanie banków czy infrastruktury.

Statystyczna iluzja poprawności

Argumentacja Hotza uderza w fundament dzisiejszej euforii. Programista uważa, że LLM-y jedynie imitują wzorce, zamiast rozumieć logikę problemów. Modele te, będąc zaawansowanymi silnikami statystycznymi, błyskawicznie dostarczają prototypy, ale wykładają się na detale decydujące o stabilności systemów w skali produkcyjnej. To nie jest inteligencja, to gra w przewidywanie prawdopodobieństwa.

Hotz zdefiniował zjawisko „wiecznego września słabego kodu”. AI generuje błędy trudne do wykrycia, bo na pierwszy rzut oka kod wygląda czysto i profesjonalnie. Tradycyjne wskaźniki jakości stają się bezużyteczne. Jako przykład patologii Hotz podaje sytuacje, w których modele AI, zamiast naprawić błąd w teście, po prostu go komentują, oszukując systemy ciągłej integracji i zgłaszając sukces budowania aplikacji.

Podział w Dolinie Krzemowej

Stanowisko Hotza współbrzmi z argumentami Yanna LeCuna z Mety oraz Gary’ego Marcusa. Podkreślają oni, że obecna architektura LLM nie posiada prawdziwego sprawstwa. Według nich przełom wymaga budowy modeli świata, a nie tylko przewidywania kolejnego tokenu. Sytuacja tworzy wyraźną linię podziału: z jednej strony stoją puryści ostrzegający przed degradacją jakości, z drugiej entuzjaści tacy jak Andrej Karpathy.

Karpathy, kluczowa postać świata AI, przeszedł odwrotną drogę. Choć dawniej wątpił w agentów, po premierze modeli Claude Opus czy GPT-4 stał się ich orędownikiem. Twierdzi, że AI pozwala na dziesięciokrotne zwiększenie produktywności. Co ciekawe, Karpathy przyznaje rację Hotzowi w kwestii estetyki. Kod generowany przez maszyny nazywa „obrzydliwym” i pełnym kruchych abstrakcji, ale uważa, że biznesowy zysk uświęca te środki.

Ryzyko systemowe i nowa rzeczywistość

Największe zagrożenie Hotz widzi w dużych korporacjach. Tam, gdzie inżynierowie o mniejszym doświadczeniu nie potrafią zweryfikować generowanych funkcji, błędy zaczną narastać lawinowo. Wizja przyszłości kreślona przez OpenAI sugeruje wręcz, że niedługo przestaniemy ręcznie przeglądać kod, akceptując awarie jako stały koszt postępu. Pytanie postawione przez Hotza pozostaje otwarte: czy stać nas na architekturę budowaną na piasku statystyki, nad którą nikt już w pełni nie panuje?