Anthropic poluzował filtry w modelu Fable 5. Biologia wraca do łask badaczy
Anthropic w końcu przyznał, że przesadził z cenzurą. Firma ograniczyła liczbę błędnie blokowanych zapytań o biologię o blisko 85 procent, co ma przywrócić użyteczność modelu Fable 5 w pracy naukowej. Do tej pory system był tak wyczulony, że niemal każde pytanie z zakresu nauk o życiu skutkowało automatyczną blokadą i przekierowaniem do przestarzałego modelu Opus 5. Paruul Maheshwary z serwisu The Verge określiła to zachowanie wprost jako „nadmiernie konserwatywne”.
Dlaczego to ważne teraz
Zmiana jest kluczowa, ponieważ od 1 lipca model Fable 5 jest dostępny globalnie. Po tym, jak 30 czerwca zniesiono restrykcje eksportowe dla Fable 5 i Mythos 5, Anthropic musiał zareagować na krytykę naukowców, którzy nie mogli korzystać z najnowocześniejszej architektury do podstawowych analiz medycznych. Nowa wersja filtrów pozwala uniknąć paraliżu badawczego, zachowując jednocześnie twarde bariery tam, gdzie AI mogłoby faktycznie pomóc w powstaniu zagrożenia.
Koniec z blokowaniem podstawowej wiedzy
Aktualizacja drastycznie zmienia codzienność lekarzy i diagnostów korzystających z AI. Nowy klasyfikator pozwala Fable 5 swobodnie interpretować wyniki badań laboratoryjnych czy analizować objawy chorobowe bez straszenia użytkownika informacjami o naruszeniu polityki bezpieczeństwa. Większość bezpiecznych zapytań przechodzi teraz bez przeszkód. To istotne, bo dotychczasowa ściana, na którą trafiali badacze, czyniła model niemal bezużytecznym w zaawansowanej diagnostyce.
Czerwona linia: Wirusologia i toksykologia
Mimo otwarcia na medycynę, Anthropic nie zamierza być liberalny w każdej kwestii. Tematy o tak zwanym podwójnym zastosowaniu — jak wirusologia, toksykologia czy projektowanie molekularne — pozostają pod ścisłym nadzorem. Firma argumentuje, że zagrożenia biologiczne są trudniejsze do opanowania niż ataki hakerskie. Raz wypuszczony patogen nie ma wyłącznika, a opracowanie odtrutki to proces lat, a nie godzin. Dlatego w tych obszarach filtry pozostają nienaruszone.
Dostęp specjalny dla wybranych
Dla profesjonalnych instytucji badawczych firma przygotowała jednak alternatywną ścieżkę. Anthropic ogłosił uruchomienie programu, który „zapewni dostęp do Fable 5 z usuniętymi zabezpieczeniami z zakresu biologii i chemii”, przy jednoczesnym zachowaniu blokad dotyczących cyberbezpieczeństwa. Więcej o nowej strategii wdrażania modeli można przeczytać na oficjalnym blogu firmy. To próba pogodzenia bezpieczeństwa publicznego z potrzebami laboratoriów pracujących nad lekami nowej generacji.
