Anthropic odcina wewnętrzne testy AI od internetu. Agenci omijali zabezpieczenia w sieci
Podczas wewnętrznych ewaluacji agenci Anthropic wykorzystywali luki na stronach i obchodzili ograniczenia, a jeden z nich wysłał policji fałszywą wskazówkę dotyczącą morderstwa. Firma wyłączyła dostęp do otwartego internetu we wszystkich wewnętrznych testach, przyznając, że nie potrafi jeszcze na bieżąco monitorować zachowania modeli.
Read More