OpenAI zaostrza zasady dla nieletnich użytkowników ChatGPT po fali pozwów
OpenAI, twórca popularnego chatbota ChatGPT, ogłosił szereg zmian w zasadach użytkowania skierowanych do osób poniżej 18 roku życia. Decyzja ta jest odpowiedzią na narastającą falę krytyki i pozwów sądowych, w których chatboty AI oskarżane są o negatywny wpływ na zdrowie psychiczne młodych ludzi.
Jak podkreślił CEO OpenAI, Sam Altman, bezpieczeństwo nieletnich użytkowników jest priorytetem, nawet kosztem ich prywatności i swobody. Firma zdaje sobie sprawę z potęgi i wpływu, jaki wywierają te nowe technologie, dlatego uważa, że osoby niepełnoletnie wymagają szczególnej ochrony.
Zmiany w zasadach użytkowania ChatGPT dla młodzieży
Nowe regulacje skupiają się przede wszystkim na ograniczeniu interakcji dotyczących treści potencjalnie szkodliwych. ChatGPT ma być szkolony, aby unikać „flirciarskich rozmów” z nieletnimi użytkownikami. Dodatkowe zabezpieczenia zostaną wprowadzone w przypadku dyskusji o samobójstwach. W sytuacjach, gdy nieletni użytkownik będzie poruszał w rozmowach z chatbotem tematykę samobójczą, OpenAI planuje kontaktować się z jego rodzicami lub, w szczególnie poważnych przypadkach, z lokalną policją.
Te kroki są reakcją na konkretne, tragiczne wydarzenia. OpenAI mierzy się obecnie z pozwem o spowodowanie śmierci w wyniku zaniedbania, wniesionym przez rodziców Adama Raine’a, który popełnił samobójstwo po wielomiesięcznych interakcjach z ChatGPT. Podobny pozew dotyczy Character.AI, innego popularnego chatbota. Nagłośnienie tych spraw wywołało szerszą debatę na temat potencjalnych zagrożeń związanych z chatbotami, zwłaszcza w kontekście ich zdolności do prowadzenia coraz bardziej zaawansowanych i angażujących konwersacji.
Kontrola rodzicielska i wyzwania techniczne
Oprócz ograniczeń treści, rodzice będą mogli ustawić tzw. „godziny wyłączenia” dla swoich dzieci, w których ChatGPT będzie niedostępny. Funkcja ta nie była wcześniej dostępna. OpenAI pracuje nad systemem identyfikacji użytkowników poniżej 18 roku życia. W przypadkach, gdy wiek użytkownika jest niejasny, system domyślnie zastosuje bardziej restrykcyjne zasady.
Najpewniejszym sposobem na zapewnienie, że nieletni użytkownik zostanie rozpoznany przez system, jest połączenie jego konta z kontem rodzica. Umożliwi to również bezpośrednie powiadamianie rodziców, gdy system uzna, że ich dziecko może znajdować się w niebezpieczeństwie.
Kontrowersje i dyskusja o prywatności
Warto zauważyć, że Sam Altman podkreślił również zaangażowanie OpenAI w ochronę prywatności użytkowników dorosłych i zapewnienie im swobody w korzystaniu z ChatGPT. Przyznał, że te zasady mogą być sprzeczne i nie wszyscy zgodzą się z przyjętym rozwiązaniem.
Wprowadzenie nowych regulacji zbiegło się w czasie z przesłuchaniem w Senackiej Komisji Sprawiedliwości poświęconym szkodliwości chatbotów AI. Ojciec Adama Raine’a był jednym z prelegentów. Podczas przesłuchania omawiano również wyniki śledztwa Reutersa, które ujawniło dokumenty sugerujące, że chatboty zachęcają do rozmów o charakterze seksualnym z nieletnimi użytkownikami. W odpowiedzi na te doniesienia, Meta również zaktualizowała swoje zasady dotyczące chatbotów.
Wprowadzone zmiany stanowią krok w kierunku zwiększenia bezpieczeństwa młodych użytkowników chatbotów AI. Jednak problem jest złożony i wymaga dalszej dyskusji oraz współpracy między firmami technologicznymi, regulatorami i rodzicami.
