Broń biologiczna i filtry, które blokują obrońców. Tencent i Hugging Face w sporze o otwarte AI

Sztuczna inteligencja w niedługim czasie osiągnie poziom umożliwiający projektowanie broni biologicznej, a tradycyjny podział na modele całkowicie zamknięte i w pełni otwarte przestaje zdawać egzamin. W rozmowie z dziennikiem „South China Morning Post” zwrócił na to uwagę Vinces Yao Shunyu, główny naukowiec ds. AI w Tencencie i były pracownik OpenAI. W ocenie Yao odcięcie dostępu do wag modeli nie uchroni świata przed zagrożeniem biologicznym, ponieważ w tej dziedzinie zdolności defensywne i ofensywne są niemal niemożliwe do rozdzielenia.

Yao przekonuje, że branża potrzebuje kompromisowego podejścia: otwarte wagi są niezbędne, by zespoły bezpieczeństwa na całym świecie dysponowały narzędziami do obrony. Jako koronny przykład podaje incydent z lipca 2026 roku, kiedy platforma Hugging Face została zaatakowana przez w pełni autonomiczny system agentów AI. Sprawcy wykorzystali luki w procesie parsowania zbiorów danych, przejęli poświadczenia chmurowe i rozprzestrzenili się po wewnętrznych klastrach.

Gdy filtry biorą analityka za hakera

Kluczowy problem pojawił się na etapie analizy śledczej. Jak ujawniło Hugging Face w oficjalnym raporcie, inżynierowie próbowali wykorzystać czołowe komercyjne modele API do zbadania ponad 17 tysięcy zarejestrowanych działań napastnika. Narzędzia odmówiły jednak współpracy. Zewnętrzne filtry bezpieczeństwa zablokowały zapytania zawierające próbki eksploitów i komendy sterujące rojem botów, nie potrafiąc odróżnić analityka bezpieczeństwa od agresora.

Aby odtworzyć przebieg ataku, Hugging Face uruchomiło na własnej infrastrukturze chiński model GLM-5.2 o otwartych wagach. Dopiero lokalna instancja, pozbawiona narzuconych z zewnątrz blokad chmurowych, pozwoliła w kilka godzin uporządkować logi bez wysyłania wrażliwych danych na serwery zewnętrznych dostawców.

Druga strona medalu: abliteracja

Doświadczenie Hugging Face stało się koronnym argumentem zwolenników architektury open-weight, jednak druga strona sporu wskazuje na poważne ograniczenia tego podejścia. Przeciwnicy niekontrolowanego upubliczniania wag, na czele z szefem Anthropic Dario Amodeim, przypominają, że raz opublikowanych wag nie da się wycofać, a zabezpieczenia modelu są podatne na usunięcie.

Technika tzw. abliteracji pozwala usunąć z modelu o otwartych wagach wyuczone reguły odmawiania odpowiedzi. W internecie bez trudu można pobrać zmodyfikowane w ten sposób wersje czołowych otwartych systemów. Z tego powodu Amodei odrzucił tezę, że otwarte wagi pomagają głównie obrońcom. W lipcu Anthropic jako jedyne duże amerykańskie laboratorium odmówiło podpisania popieranego przez Nvidię i Metę listu otwartego przeciwko przedwczesnym restrykcjom na modele open-weight. Amodei w publicznych wypowiedziach podtrzymał obawy dotyczące niekontrolowanego rozprzestrzeniania się zdolności ofensywnych.

Tencent szuka wyjścia z tego pata na etapie uczenia maszynowego. Koncern zapowiedział model Hy4, którego zdolności hakerskie ograniczono przez filtrowanie danych treningowych. Według firmy jego zdolności biologiczne znajdują się poniżej progu wysokiego ryzyka. Zgodnie z deklaracjami firmy uniemożliwia to przywrócenie niebezpiecznych zachowań nawet przy użyciu abliteracji, co ma pogodzić otwartość kodu z rygorystycznymi standardami bezpieczeństwa.