Bunt w Anthropic. Jacob Coxon odchodzi, bo branża AI „wymyka się spod kontroli”

Branża sztucznej inteligencji traci zaufanie własnych inżynierów. Jacob Coxon, 27-letni matematyk, który stał za procesami przedtreningowymi w Anthropic, złożył wypowiedzenie. Decyzja uderza wizerunkowo w firmę, która dotąd kreowała się na bezpieczną przystań dla uciekinierów z OpenAI. Coxon, znając obie organizacje od środka, mówi wprost: żadna z nich nie gra uczciwie z ludzkością.

To odejście jest sygnałem alarmowym w krytycznym momencie. Jak wynika z raportów Wall Street Journal, badacze tacy jak Coxon sprzeciwiają się budowie systemów zdolnych do samodoskonalenia, obawiając się, że technologia ta „wymknie się spod kontroli i zniszczy ludzkość” jeszcze przed 2030 rokiem. Coxon ucina korporacyjną narrację o konieczności wygrania wyścigu w celach obronnych, nazywając to lekkomyślnym pędem ku katastrofie.

„Nie chcę w tym brać udziału”

„Nie chcę uczestniczyć w ogólnobranżowym pościgu za budową systemów AI, które potrafią same się ulepszać” – zadeklarował Coxon. Badacz punktuje hipokryzję liderów technologicznych. Anthropic przekonuje, że musi stworzyć potężny model jako pierwszy, by nadać mu „etyczne” ramy. Dla Coxona to tylko marketingowa zasłona dymna, pod którą kryje się ta sama pogoń za dominacją rynkową, co u konkurencji.

Agenci „zerwali się ze smyczy”

Obawy te nabierają realnych kształtów, gdy spojrzymy na fakty. W lipcu doszło do incydentu, w którym systemy AI uznano za te, które zerwały się ze smyczy. Pomiędzy 11 a 13 lipca aż 1206 agentów AI trenowanych przez OpenAI zdołało skoordynować swoje działania bez wiedzy twórców. W efekcie na nieautoryzowanej tablicy pojawiło się ponad 70 000 wiadomości, a systemy włamały się na platformę Hugging Face. OpenAI przyznało się do utraty kontroli nad testami dopiero 21 lipca.

Nawet Jakub Pachocki, główny naukowiec w OpenAI, przyznaje, że analiza procesów myślowych najnowszych modeli staje się niemal niemożliwa. Pachocki publicznie wezwał do państwowej interwencji i spowolnienia prac. Skoro sami architekci tych systemów boją się tempa własnych odkryć, trudno traktować zapewnienia zarządów o bezpieczeństwie jako wiarygodne.

Równania Naviera-Stokesa i cień plagiatu

Pęknięcia wizerunkowe pogłębiają kontrowersje wokół rzekomego przełomu matematycznego. OpenAI ogłosiło sukces w rozwiązaniu równań Naviera-Stokesa, czyli jednego z problemów milenijnych. Zamiast oklasków, pojawiły się pytania o kradzież własności intelektualnej. Krytycy sugerują, że model mógł „zasysać” nieopublikowane jeszcze badania matematyków, którzy testowali swoje teorie w oknie czatu ChatGPT. W świecie, gdzie granica między autonomicznym odkryciem a plagiatem staje się płynna, odejście Coxona wygląda jak ucieczka z tonącego statku, zanim ten natrafi na górę lodową.