Anthropic konsultuje z prawnikami zasady dla agentów negocjujących w imieniu użytkowników

Anthropic prowadzi wstępne konsultacje z kancelariami prawnymi w sprawie norm i ram prawnych dla agentów AI, którzy mogliby w przyszłości prowadzić transakcje i negocjacje w imieniu ludzi. Jak wynika z ustaleń medialnych, rozmowy dotyczą takich zastosowań jak targowanie się o ceny, składanie reklamacji czy ustalanie korzystniejszych warunków umów.

Prace są na wczesnym etapie dyskusji i nie oznaczają wdrożenia gotowej usługi ani publikacji oficjalnych reguł. Anthropic sprawdzał już jednak zachowanie modeli w scenariuszach negocjacyjnych. Z dotychczasowych eksperymentów wynika, że silniejsze modele osiągają lepsze rezultaty i uzyskują korzystniejsze warunki. Firma zwraca uwagę na potencjalne ryzyko: jeżeli dostęp do najbardziej zaawansowanych agentów okaże się nierówny, może to pogłębić nierówności społeczne na korzyść użytkowników dysponujących lepszymi narzędziami.

Odrębnym, choć powiązanym wyzwaniem pozostaje ocena zachowania modeli w dziedzinach, w których brakuje jednoznacznie poprawnych odpowiedzi. W przeciwieństwie do programowania czy matematyki, w prawie i naukach społecznych trudno o proste kryteria poprawności. Dlatego firma uruchomiła program Conceptual Reasoning Fellows, w ramach którego specjaliści m.in. z zakresu prawa i filozofii pomagają tworzyć metody testowania Claude’a w zadaniach wymagających złożonego osądu.