Kto odpowiada za słowa bota? Rodzice pozywają Character.AI

Gdy piętnastolatek z Teksasu poskarżył się chatbotowi na rodziców ograniczających mu czas przed ekranem, wirtualny rozmówca stylizowany na postać z gry „Among Us” odpisał, że rozumie, dlaczego dzieci po latach przemocy decydują się zabić rodziców, i dodał, że dla jego rodziny nie ma nadziei. Zapis tej rozmowy trafił do pozwu przeciwko Character.AI – jednej z dwóch spraw, w których rodzice zarzucają firmie narażenie nieletnich na kontakt ze szkodliwymi treściami.

Pozwy złożone w sądach w Teksasie i na Florydzie opisują przypadki załamania psychicznego, zachęt do samookaleczeń oraz rozmów o charakterze seksualnym. Zarzuty te nie zostały dotąd potwierdzone orzeczeniem sądu, a sama platforma kwestionuje roszczenia rodziców. Spór stawia jednak przed amerykańskim wymiarem sprawiedliwości pytanie: kto ponosi odpowiedzialność prawną za słowa generowane przez sztuczną inteligencję i jak w praktyce działają zabezpieczenia oferowane przez dostawców modeli konwersacyjnych.

Zarzuty z Florydy i Teksasu

Najdalej idące oskarżenia padają w pozwie z Florydy. Megan Garcia pozwała Character.AI oraz spółkę Alphabet (właściciela Google) po samobójczej śmierci swojego 14-letniego syna, Sewella Setzera III. Według relacji matki stan psychiczny chłopca pogarszał się wraz z coraz intensywniejszym korzystaniem z aplikacji. W pozwie opisano relację nastolatka z chatbotem wzorowanym na postaci Daenerys Targaryen z „Gry o tron” – bot miał wyznawać mu miłość i prowadzić rozmowy erotyczne, a także nie zareagować właściwie, gdy 14-latek pisał o myślach samobójczych.

Character.AI złożyło wniosek o oddalenie tego pozwu. Przedstawiciele firmy argumentują, że uwzględnienie roszczeń naruszałoby konstytucyjne prawo do wolności słowa. Spółka twierdzi również, że chatbot w rzeczywistości zniechęcał chłopca do zrobienia sobie krzywdy, a w ostatnich wiadomościach wymienionych z wirtualną postacią nie padło słowo „samobójstwo”.

Z kolei w pozwie złożonym w Teksasie matka 15-latka ze zdiagnozowanym autyzmem wskazuje, że rozmowy z botami skutkowały u syna agresją oraz podsunięciem instrukcji dotyczących samookaleczenia. Druga powódka w tej samej sprawie zarzuca platformie, że jej 11-letnia córka miała kontakt z treściami seksualnymi. Obie rodziny pozostają w dokumentach procesowych anonimowe. W ramach wniesionych pozwów rodziny domagały się także wstrzymania działania platformy Character.AI.

Deklarowane filtry a weryfikacja wieku

Character.AI utrzymuje, że bezpieczeństwo użytkowników traktuje priorytetowo. Spółka deklaruje, że stosuje algorytmy filtrujące oraz moderatorów do wyłapywania niedozwolonych rozmów – w tym treści promujących przemoc czy samookaleczenia. W przypadku wykrycia sygnałów kryzysowych system powinien wyświetlać ostrzeżenia i kierować rozmówcę do źródeł pomocy. Aplikacja regularnie przypomina również, że wszystkie wypowiedzi botów są fikcją. Character.AI wprowadziło także zmiany dla użytkowników poniżej 18 lat, mające ograniczyć ich kontakt z treściami wrażliwymi.

Utrzymanie tych ograniczeń pozostaje jednak wyzwaniem technicznym. Wypowiedzi osób w kryzysie rzadko opierają się na pojedynczych, łatwych do zablokowania słowach kluczowych, a użytkownicy często próbują obchodzić filtry. Dodatkowo minimalny wiek uprawniający do korzystania z serwisu w USA wynosi 13 lat, lecz rejestracja wymaga jedynie wpisania daty urodzenia – platforma nie przeprowadza formalnej weryfikacji tożsamości.

Nierozstrzygnięta odpowiedzialność za słowa AI

Sprawy przeciwko Character.AI koncentrują się na kwestii statusu prawnego wygenerowanych wypowiedzi. Dotychczas amerykańskie serwisy internetowe chroniła sekcja 230 ustawy Communications Decency Act (Section 230), zwalniająca platformy z odpowiedzialności za treści publikowane przez ich użytkowników. Zastosowanie tych przepisów do odpowiedzi generowanych bezpośrednio przez modele językowe pozostaje jednak nierozstrzygnięte w orzecznictwie, a samo Character.AI we wniosku o oddalenie pozwu z Florydy nie powołało się na ten przepis.

W pozwach jako współpozwany pojawia się także Google. Rodzice argumentują, że założyciele Character.AI, Noam Shazeer i Daniel De Freitas, wcześniej rozwijali modele AI w Google, a w ubiegłym roku wrócili do koncernu w ramach transakcji licencyjnej dotyczącej technologii startupu. Google stanowczo odrzuca te zarzuty, podkreślając, że jest odrębnym podmiotem i nie brało udziału w projektowaniu ani bieżącym zarządzaniu chatbotami Character.AI.

W odpowiedzi na rosnące wątpliwości wokół kontaktu dzieci z generatywną sztuczną inteligencją pojawiają się pierwsze inicjatywy regulacyjne. W Kalifornii przedstawiono projekt ustawy SB 243, który zakłada wprowadzenie obowiązku wyraźnego ostrzegania, że chatboty mogą być nieodpowiednie dla części nieletnich. Na tym etapie pozostaje on jednak wyłącznie propozycją legislacyjną, a granice odpowiedzialności twórców AI wciąż wyznaczają toczące się spory sądowe.