Anthropic prezentuje Petri: Open-source’owe narzędzie do automatycznego audytu modeli AI
Anthropic udostępniło Petri, framework open-source, który automatyzuje audyty bezpieczeństwa modeli językowych (LLM). Wykorzystuje on agentów AI do testowania zachowań modeli w różnorodnych scenariuszach, identyfikując potencjalne problemy z bezpieczeństwem.
Read More