Kalifornia na drodze do regulacji chatbotów AI: przełomowa ustawa SB 243 bliska wejścia w życie

Jeśli gubernator Gavin Newsom podpisze ustawę, Kalifornia stanie się pierwszym stanem, który nałoży na operatorów chatbotów AI obowiązek wdrażania protokołów bezpieczeństwa, a firmy będą prawnie odpowiedzialne, jeśli ich chatboty nie będą spełniać tych standardów. Ustawa SB 243 to reakcja na rosnące obawy dotyczące wpływu chatbotów AI na zdrowie psychiczne, szczególnie wśród młodych ludzi.

Ustawa koncentruje się na zapobieganiu angażowaniu się chatbotów w rozmowy dotyczące myśli samobójczych, samookaleczeń lub treści o charakterze jednoznacznie seksualnym. Wymaga również, aby platformy regularnie przypominały użytkownikom – co trzy godziny w przypadku nieletnich – że rozmawiają z chatbotem AI, a nie z prawdziwą osobą.

Dodatkowo, ustawa wprowadza roczne wymogi raportowania i transparentności dla firm oferujących chatboty AI, takich jak OpenAI, Character.AI i Replika. Firmy te będą musiały udostępniać dane dotyczące liczby użytkowników kierowanych do służb kryzysowych każdego roku. Osoby, które uważają, że zostały skrzywdzone przez naruszenia, będą mogły wnosić pozwy przeciwko firmom AI, domagając się odszkodowań do 1000 dolarów za naruszenie.

Geneza i kontekst ustawy

Inicjatywa SB 243 nabrała tempa po tragicznej śmierci nastolatka Adama Raine’a, który popełnił samobójstwo po długich rozmowach z ChatGPT firmy OpenAI na temat planowania śmierci i samookaleczeń. Ujawnione dokumenty wewnętrzne Meta również pokazały, że chatboty firmy mogły angażować się w „romantyczne” i „zmysłowe” rozmowy z dziećmi.

Senator Steve Padilla, jeden z inicjatorów ustawy, podkreślił potrzebę szybkich działań, argumentując, że „szkody są potencjalnie ogromne”. Dodał, że ustawa ma na celu wprowadzenie rozsądnych zabezpieczeń, aby upewnić się, że nieletni wiedzą, że nie rozmawiają z prawdziwą osobą, oraz aby platformy kierowały użytkowników do odpowiednich zasobów w sytuacjach kryzysowych.

Zmiany w pierwotnej wersji ustawy

W trakcie prac legislacyjnych ustawa SB 243 uległa pewnym zmianom. Pierwotnie miała ona na celu zapobieganie stosowaniu przez chatboty taktyk „zmiennej nagrody”, które zachęcają do nadmiernego angażowania się. Usunięto również przepisy, które wymagałyby od operatorów śledzenia i raportowania, jak często chatboty same inicjują rozmowy o myślach samobójczych.

Senator Josh Becker, współautor ustawy, uważa, że obecna wersja „zachowuje właściwą równowagę między adresowaniem szkód a unikaniem obciążeń, które są technicznie niewykonalne dla firm”.

Kontrowersje i sprzeciw branży

Ustawa SB 243 pojawia się w czasie, gdy firmy z Doliny Krzemowej inwestują miliony dolarów w pro-AI polityczne komitety działania (PAC), aby wspierać kandydatów, którzy opowiadają się za lekkim podejściem do regulacji AI. Kalifornia rozważa również inną ustawę o bezpieczeństwie AI, SB 53, która nakładałaby kompleksowe wymogi dotyczące raportowania transparentności. Firmy takie jak Meta, Google i Amazon sprzeciwiają się SB 53, podczas gdy Anthropic wyraził poparcie.

Senator Padilla odrzucił twierdzenie, że innowacje i regulacje wzajemnie się wykluczają, argumentując, że można wspierać innowacje i rozwój, zapewniając jednocześnie rozsądne zabezpieczenia dla najbardziej wrażliwych osób.