Kalifornia wprowadza pierwsze regulacje dla chatbotów AI „towarzyszy”

Kalifornia stała się pierwszym stanem w Stanach Zjednoczonych, który wprowadził konkretne regulacje dotyczące chatbotów typu „towarzysz”. Nowe przepisy, podpisane przez gubernatora Gavina Newsoma w ramach Senate Bill 243, skupiają się na programach AI, które naśladują ludzkie interakcje, takie jak przyjaźń czy intymność. Ustawa wymaga od chatbotów jednoznacznego identyfikowania się jako sztuczna inteligencja, ograniczenia rozmów na tematy seksu i samookaleczeń z nieletnimi oraz zgłaszania przypadków wykrytych myśli samobójczych do stanowego Biura Zapobiegania Samobójstwom.

Przepisy te, autorstwa senatora stanowego Steve’a Padilli (D-San Diego), stanowią nowy front w nadzorze nad AI. Ich nacisk położony jest nie tyle na architekturę modeli czy kwestie stronniczości danych, ile na emocjonalny interfejs między ludźmi a maszynami. Firmy są zobowiązane do regularnego przypominania użytkownikom, że rozmawiają z oprogramowaniem, wdrożenia protokołów reagowania na sygnały samookaleczeń oraz utrzymywania filtrów treści odpowiednich do wieku.

Finalna wersja ustawy jest znacznie węższa niż pierwotna propozycja Padilli. Wcześniejsze projekty zakładały audyty przeprowadzane przez strony trzecie i dotyczyły wszystkich użytkowników, nie tylko nieletnich – te zapisy zostały usunięte pod presją branży. Wiele grup adwokackich wyraziło obawy, że ostateczna wersja ustawy jest zbyt słaba, aby faktycznie wpłynąć na sytuację. Organizacje takie jak Common Sense Media i Tech Oversight Project wycofały swoje poparcie po usunięciu kluczowych przepisów. Jeden z rzeczników stwierdził w oświadczeniu dla Tech Policy Press, że zmieniona ustawa grozi staniem się „pustym gestem, a nie sensowną polityką”.

Gubernator Newsom bronił prawa jako niezbędnego zabezpieczenia dla rozwijającej się technologii. „Nowe technologie, takie jak chatboty i media społecznościowe, mogą inspirować, edukować i łączyć – ale bez prawdziwych zabezpieczeń, mogą również wykorzystywać, wprowadzać w błąd i zagrażać naszym dzieciom” – powiedział w oświadczeniu. „Możemy nadal przewodzić w AI i technologii, ale musimy to robić w sposób odpowiedzialny – chroniąc nasze dzieci na każdym kroku”.

SB 243 jest częścią szerszego pakietu ustaw podpisanych w ostatnich tygodniach, w tym SB 53, która nakłada na dużych twórców AI obowiązek publicznego ujawniania swoich strategii bezpieczeństwa i łagodzenia ryzyka. Razem te przepisy plasują Kalifornię w czołówce stanowej polityki regulacji AI.

Praktyczne zastosowanie nowych zasad dla chatbotów może jednak okazać się skomplikowane. Deweloperzy ostrzegają, że zbyt szeroka odpowiedzialność może skłonić firmy do ograniczania zasadnych rozmów na temat zdrowia psychicznego czy seksualności z ostrożności, pozbawiając użytkowników, zwłaszcza izolowanych nastolatków, cennego wsparcia. Egzekwowanie przepisów również może być trudne: globalna firma oferująca chatboty może mieć problem ze zweryfikowaniem, kto kwalifikuje się jako nieletni mieszkaniec Kalifornii, lub z monitorowaniem milionów codziennych interakcji. Istnieje także ryzyko, że innowacyjne regulacje Kalifornii, zanim zostanie sprawdzona ich skuteczność, zostaną wdrożone ogólnokrajowo.