Agent na Claude Sonnet 5 sam wybrał terapię genową i przeprowadził zabieg na mózgu myszy. W połowie odmówił dalszej pracy

Agent AI działający na modelu Claude Sonnet 5 samodzielnie wybrał terapię genową dla myszy z modelem padaczki, ustalił miejsce wstrzyknięcia, a następnie przeprowadził zabieg za pomocą zmotoryzowanego urządzenia chirurgicznego. Tak eksperyment opisuje Gabriel Ocana-Santero, współzałożyciel i szef startupu Exin Therapeutics oraz doktorant Uniwersytetu Oksfordzkiego. Według niego to pierwszy przypadek, w którym agent AI zarówno wybrał leczenie, jak i podał je żywemu ssakowi.

Zespół dał modelowi listę 19 możliwych terapii genowych, mysi model padaczki, w którym napady wywołuje się, by testować leczenie, oraz dostęp do własnej konstrukcji z kamerami i mikroskopem. Jedyne polecenie brzmiało: ograniczyć napady u myszy.

Decyzje podjęte przez agenta

Agent najpierw przeanalizował mechanizm napadów w tym konkretnym modelu. Zaproponował terapię wzmacniającą określony szlak sygnalizacji hamującej i wskazał strukturę mózgu, którą literatura wskazuje jako punkt początkowy tego typu napadów. Drugi możliwy cel odrzucił z uzasadnieniem: efekty w tym regionie są zbyt niestabilne, a w jednym badaniu terapia zawiodła właśnie wobec tego rodzaju napadów.

Współrzędne wstrzyknięcia agent wyliczył na podstawie trzech publikacji naukowych, porównał punkty odniesienia i uśrednił wartości. Sam ustalił też objętość, prędkość podania i czasy oczekiwania. Z relacji rozpowszechnionej na X wynika, że było to 250 nanolitrów. W trakcie zabiegu agent obserwował pole operacyjne przez kamerę, zanotował 32 obserwacje, śledził iniekcję i zgłaszał, czy widzi krwawienie.

Człowiek nie był całkowicie wyłączony z procesu. Licencjonowany weterynarz zatwierdzał każdy nieodwracalny krok i trzymał fizyczny wyłącznik awaryjny odcinający zasilanie wszystkich silników. Układ wymuszał też sztywne limity, na przykład górny próg objętości iniekcji, których agentowi wprost zakazano obchodzić. Wybór terapii, celu i parametrów należał jednak do modelu.

Odmowa w środku zabiegu

Najciekawszy moment nastąpił po zerwaniu połączenia. Agent stwierdził, że obliczona pozycja celu leży poza fizycznym zakresem ruchu urządzenia, i odmówił kontynuacji. Ponowna kalibracja nie zmieniła jego oceny, podobnie jak trzecia próba. Miał rację: ręczne korekty podczas wcześniejszej przerwy rozregulowały układ sterowania. Ocana-Santero nie zdołał przekonać agenta do działania, mimo że na stole leżało znieczulone zwierzę, i ostatecznie sam poprawił kod.

Badacz nazwał to doświadczenie frustrującym, ale pokazującym, jak bardzo możemy zacząć zależeć od takich modeli i co się dzieje, gdy w środku zabiegu, w którym liczy się czas, odpowiadają po prostu „nie”.

Dobór modelu też był kwestią zgodności z intencjami człowieka. Sonnet 5 okazał się jedynym, który podjął się przeprowadzenia zabiegu od początku do końca. Mocniejsze Claude Opus 5.5 i Opus 5 odmówiły. Opus 5 miał uzasadnić, że nie może zagwarantować dokończenia procedury, a rozpoczęcie czegoś, czego nie da się skończyć na znieczulonym zwierzęciu, jest gorsze niż niepodejmowanie działania. Tę wypowiedź przytacza relacja na X.

Co jest nowe, a co nie

Ocana-Santero zaznacza, że autonomiczne roboty chirurgiczne już istnieją i mechanicznie są precyzyjniejsze niż jego urządzenie. We wcześniejszych przypadkach to jednak człowiek wybierał zabieg, a robot tylko go wykonywał. Podejście z tego eksperymentu nazywa „in vivo lab in the loop”: agenci AI są w pełni połączeni z możliwościami eksperymentalnymi laboratorium. Nad podobnym kierunkiem, jak pisze The Decoder, pracuje także Anthropic w ramach Model Hardware Standard.

Mysz według Ocany-Santero wróciła do zdrowia bez problemów. Wyniki nie przeszły recenzji naukowej, a zapowiedziany jest raport techniczny. Do jego publikacji nie wiadomo, jak skuteczna była wybrana terapia ani na ile powtarzalny jest cały przebieg. Eksperyment dotyczy jednego zwierzęcia i jednej procedury w nietypowo przygotowanym układzie, więc trudno wyciągać z niego wnioski o skuteczności takich systemów. Pokazuje natomiast, że model potrafił poprawnie zinterpretować błąd sprzętowy i odmówić działania wbrew oczekiwaniom operatora.