Floryda domaga się ograniczeń dla ChatGPT. Chodzi o antropomorfizację i nowe modele

Prokurator generalny Florydy złożył wniosek o wydanie tymczasowego nakazu sądowego wobec OpenAI. Władze stanowe domagają się zakazu udostępniania ChatGPT osobom niepełnoletnim w formie, która przypisuje mu cechy ludzkie, a także uzależnienia prac nad kolejnymi modelami od wcześniejszego zatwierdzenia ich zabezpieczeń przez niezależne podmioty. Sąd nie rozstrzygnął jeszcze tego wniosku.

W uzasadnieniu zarzucono firmie, że posługiwanie się przez chatbota językiem w pierwszej osobie oraz symulowanie emocji służy budowaniu pozoru godnej zaufania relacji. Zdaniem prokuratury taki mechanizm ma podtrzymywać zaangażowanie młodych użytkowników i umożliwiać zbieranie danych do trenowania kolejnych systemów.

Nowy wniosek stanowi kolejny krok w procesie wytoczonym przez Florydę w czerwcu. W pozwie zarzucono wówczas spółce m.in. dostarczanie informacji sprawcom masowych strzelanin oraz generowanie wskazówek dotyczących samookaleczeń. Stan uznał dotychczasowe zabezpieczenia i mechanizmy kontroli rodzicielskiej za niewystarczające.

OpenAI odniosło się do sprawy, deklarując chęć dialogu z władzami. Rzecznik firmy Drew Pusateri przekazał serwisowi The Verge, że przedsiębiorstwo wstrzymało trenowanie swoich „najbardziej zaawansowanych modeli” oraz zamierza współpracować z przedstawicielami stanu nad przygotowaniem branżowych wytycznych dotyczących bezpieczeństwa.