Dario Amodei ostrzega przed modelami open-weight: Szlachetna idea czy ochrona własnych interesów?

Dostarczenie potężnego modelu AI światu w formie otwartych wag (open-weight) przypomina wypuszczenie dżina z butelki. Gdy pliki raz trafią do sieci, nie ma przycisku „usuń”, który cofnąłby dostęp do technologii każdemu, kto zechce ją zmodyfikować. Właśnie ten brak kontroli spędza sen z powiek Dario Amodeiowi, szefowi Anthropic.

Dlaczego ta debata nabrała tempa właśnie teraz? Ostatnie raporty wskazują, że modele z otwartymi wagami depczą po piętach zamkniętym systemom klasy frontier, pozostając w tyle o zaledwie kilka miesięcy. Anthropic publicznie doprecyzowało swoje stanowisko, starając się wyważyć racje między bezpieczeństwem narodowym a innowacyjnością. Amodei wprost ostrzega przed scenariuszami, w których autorytarne państwa wykorzystają zachodnie innowacje do dominacji militarnej lub cyfrowych represji.

Ryzykowna otwartość sztucznej inteligencji

Prezes Anthropic oficjalnie uważa, że modele pozbawione groźnych zdolności są dobrem publicznym. Jednak w przypadku tych najbardziej zaawansowanych sytuacja się zmienia. „Modele open-weight potencjalnie stanowią wyższe ryzyko niż modele zamknięte” – przyznał Amodei w oficjalnym wystąpieniu. Jego głównym zmartwieniem jest trwałość tego ryzyka: raz upubliczniony model pozostaje zagrożeniem na zawsze.

Amodei kreśli dwa scenariusze. Pierwszy to geopolityka: obawa, że Chiny wykorzystają udostępnione algorytmy do budowy systemów inwigilacji. Drugi dotyczy asymetrii w cyberbezpieczeństwie i biotechnologii. AI potrafi wprawdzie wspierać obrońców, ale stworzenie nowego patogenu czy złośliwego oprogramowania przy użyciu niekontrolowanego modelu może być znacznie szybsze niż opracowanie reakcji obronnej.

Jak okiełznać algorytmy?

Zamiast całkowitego zakazu, Anthropic proponuje zestaw konkretnych barier:

• Kontrola eksportu czipów: Ograniczenie dostępu do mocy obliczeniowej dla podmiotów wysokiego ryzyka.
• Zwalczanie destylacji na skalę przemysłową: Ukrócenie procederu kopiowania zdolności modeli przez konkurencję bez ponoszenia kosztów badań.
• Obowiązkowe testy bezpieczeństwa: Każdy model o ogromnej mocy obliczeniowej musiałby przejść rygorystyczną weryfikację przed upublicznieniem.

Więcej szczegółów na temat tej strategii można znaleźć w oficjalnym opracowaniu Anthropic’s Position on Open-Weights Models.

Krytyka i interesy gigantów

Krytycy nie szczędzą Anthropic złośliwości. Sugerują, że pod płaszczem troski o ludzkość kryje się chęć wyeliminowania darmowej konkurencji, która zagraża płatnej subskrypcji Claude’a. W tle tli się konflikt z firmami, które podpisały listy poparcia dla otwartości, mimo że niektóre – jak OpenAI – również lobbują za regulacjami mogącymi przygnieść mniejszych graczy.

Amodei broni się, twierdząc: „Anthropic nigdy nie opowiadało się za zakazem modeli open-weight”. Jednak postulat wprowadzenia testów bezpieczeństwa dla każdego potężnego systemu uderza w samą naturę open source, gdzie rozwój często wyprzedza jakiekolwiek regulacje. Dla szefa Anthropic model, którego nie można „wyłączyć” po wykryciu luki, zawsze pozostanie słabym ogniwem w globalnym systemie bezpieczeństwa.