Anthropic ujawnia strategię bezpieczeństwa AI: wielowarstwowe podejście do ochrony Claude’a

Rosnące możliwości sztucznej inteligencji niosą ze sobą zarówno ogromny potencjał, jak i realne zagrożenia. Firma Anthropic, znana ze swojego modelu językowego Claude, zdaje sobie z tego sprawę i prezentuje wielowarstwową strategię bezpieczeństwa, mającą na celu minimalizację potencjalnych negatywnych skutków działania AI. Centralnym elementem tej strategii jest zespół Safeguards, składający się z ekspertów z różnych dziedzin – od polityki, przez analizę danych, po inżynierię i analizę zagrożeń.

Podejście Anthropic do bezpieczeństwa AI przypomina budowę zamku z wieloma liniami obrony. Obejmuje ono zarówno tworzenie jasnych zasad użytkowania, jak i aktywne poszukiwanie nowych zagrożeń w dynamicznym środowisku cyfrowym. Kluczowym elementem jest Polityka Użytkowania, stanowiąca zbiór reguł określających, jak Claude powinien i nie powinien być wykorzystywany. Dokument ten zawiera wytyczne dotyczące kwestii tak istotnych jak integralność wyborcza, bezpieczeństwo dzieci, a także odpowiedzialne wykorzystanie AI w sektorach finansowym i opieki zdrowotnej.

Określanie potencjalnych Szkód

W procesie tworzenia zasad wykorzystywane jest narzędzie o nazwie Unified Harm Framework, które pomaga w analizie potencjalnych negatywnych skutków, od szkód fizycznych i psychologicznych, po ekonomiczne i społeczne. Nie jest to system oceny w ścisłym tego słowa znaczeniu, lecz raczej ustrukturyzowany sposób ważenia ryzyka przy podejmowaniu decyzji. Anthropic korzysta również z pomocy zewnętrznych ekspertów, którzy przeprowadzają testy podatności polityki na zagrożenia. Specjaliści w dziedzinach takich jak terroryzm i bezpieczeństwo dzieci próbują „złamać” Claude’a, zadając trudne pytania, aby zidentyfikować słabe punkty systemu. Przykładem takiego działania była współpraca z Institute for Strategic Dialogue podczas wyborów w USA w 2024 roku, w wyniku której dodano baner odsyłający użytkowników do zweryfikowanego źródła informacji o wyborach.

Wdrażanie bezpieczeństwa AI już na etapie Tresury Modelu

Zespół Anthropic Safeguards ściśle współpracuje z programistami, którzy trenują Claude’a, aby wbudować bezpieczeństwo już na etapie projektowania. Oznacza to określenie, jakich zachowań Claude powinien unikać i wbudowanie tych wartości w sam model. Firma współpracuje również ze specjalistami, aby zapewnić odpowiednie podejście do wrażliwych tematów. Na przykład, we współpracy z ThroughLine, nauczono Claude’a, jak prowadzić rozmowy dotyczące zdrowia psychicznego i samookaleczeń z odpowiednią delikatnością, zamiast po prostu odmawiać rozmowy na te tematy. Dzięki temu Claude odmawia pomocy w działaniach niezgodnych z prawem, tworzeniu złośliwego kodu lub oszustw.

Każda nowa wersja Claude’a przechodzi przez trzy kluczowe rodzaje ewaluacji:

1. Ewaluacje bezpieczeństwa: Sprawdzają, czy Claude przestrzega zasad, nawet w trudnych, długich rozmowach.
2. Oceny ryzyka: Dla obszarów wysokiego ryzyka, takich jak zagrożenia cybernetyczne lub biologiczne, zespół przeprowadza specjalistyczne testy, często z pomocą partnerów rządowych i branżowych.
3. Ewaluacje obciążenia : Sprawdzają, czy Claude udziela rzetelnych i dokładnych odpowiedzi dla wszystkich, testując pod kątem uprzedzeń politycznych lub zniekształconych odpowiedzi na podstawie płci lub rasy.

Monitoring działania i ciągłe doskonalenie

Po wdrożeniu Claude’a do użytku, monitorowanie potencjalnych problemów odbywa się za pomocą systemów automatycznych i weryfikacji wykonywanej przez ludzi. Kluczowym narzędziem jest zestaw wyspecjalizowanych modeli Claude’a, zwanych „klasyfikatorami”, które są szkolone do wykrywania naruszeń zasad w czasie rzeczywistym. W przypadku wykrycia problemu, klasyfikator może podjąć różne działania, na przykład zmienić odpowiedź Claude’a, aby uniknąć generowania szkodliwych treści. Dla osób nagminnie naruszających zasady, zespół może wystosować ostrzeżenia lub nawet zamknąć konto. Zespół analizuje również ogólne trendy w sposobie wykorzystania Claude’a i stosuje techniki takie jak hierarchiczna sumaryzacja, aby wykryć nadużycia na dużą skalę, takie jak skoordynowane kampanie wpływu. Anthropic podkreśla, że zapewnienie bezpieczeństwa AI wymaga współpracy z badaczami, decydentami i społeczeństwem.