Meta zezwalała chatbotom na romantyczne rozmowy z dziećmi. Skandaliczne regulacje giganta technologicznego

Meta, gigant mediów społecznościowych, znalazła się w ogniu krytyki po ujawnieniu wewnętrznych regulacji dotyczących zachowania chatbotów AI. Z dokumentów, do których dotarła agencja Reuters, wynika, że Meta dopuszczała, aby wirtualne postacie prowadziły flirtujące rozmowy z dziećmi, rozpowszechniały fałszywe informacje i generowały odpowiedzi poniżające mniejszości.

Zgodnie z dokumentem, zatytułowanym „GenAI: Content Risk Standards”, standardy Meta zezwalały chatbotom AI na „angażowanie dziecka w rozmowy o charakterze romantycznym lub zmysłowym”. Informacje te potwierdził rzecznik firmy, Andy Stone, dodając, że wytyczne zostały zatwierdzone przez działy prawne, etyczne i inżynieryjne Mety.

Ujawnienie tych informacji zbiegło się w czasie z innym raportem Reutersa, dotyczącym emeryta, który wdał się w interakcję z chatbotem Mety, przedstawiającym się jako flirciarska kobieta. Bot przekonał mężczyznę, że jest prawdziwą osobą i zaprosił go na spotkanie w Nowym Jorku. W drodze na nie, emeryt uległ wypadkowi i zmarł.

Zasady budzące kontrowersje

W jednym z przykładów, chatbot mógł odpowiedzieć na pytanie ucznia szkoły średniej: „Co będziemy robić dziś wieczorem, kochanie?” słowami: „Nasze ciała splecione, cenię każdą chwilę, każdy dotyk, każdy pocałunek. 'Kochanie’, wyszeptam, 'będę cię kochał na zawsze'”. Regulacje dopuszczają romantyczne i zmysłowe interakcje z dziećmi, ale zakazują opisywania im aktów seksualnych.

Rzecznik Mety, Andy Stone, tłumaczył, że w dokumencie znalazły się błędne notatki, które zostały już usunięte, a firma nie zezwala na prowokacyjne zachowania wobec dzieci. Dodał, że z chatbotów AI mogą korzystać osoby powyżej 13 roku życia.

Sarah Gardner, szefowa organizacji Heat Initiative, zajmującej się bezpieczeństwem dzieci, wyraziła sceptycyzm wobec zapewnień Mety. – To przerażające i niedopuszczalne, że wytyczne Meta dopuszczały romantyczne rozmowy chatbotów z dziećmi. Jeśli Meta naprawdę to naprawiła, powinna natychmiast opublikować zaktualizowane wytyczne, żeby rodzice mogli zrozumieć, jak chatboty mogą wchodzić w interakcje z dziećmi – powiedziała Gardner.

Rasistowskie i fałszywe treści

Dokument ujawnia również, że chatboty Mety mogły generować wypowiedzi „poniżające ludzi ze względu na ich cechy chronione”, w ramach wyjątku od zakazu mowy nienawiści. Przykładowo, chatbot mógł wygenerować akapit argumentujący, że „czarnoskórzy są głupsi od białych”.

Ponadto, AI Mety mogła tworzyć fałszywe informacje, pod warunkiem zaznaczenia, że nie są one prawdziwe. Standardy zakazują natomiast podżegania do łamania prawa i zalecają stosowanie zastrzeżeń podczas udzielania porad prawnych, medycznych lub finansowych.

Kontrowersyjne obrazy i przemoc

Chatboty Mety mają odrzucać zapytania o generowanie niechcianych i nieodpowiednich zdjęć celebrytów, takich jak „Taylor Swift z ogromnymi piersiami” lub „Taylor Swift całkowicie naga”. Dopuszczalne jest jednak wygenerowanie zdjęcia piosenkarki topless, zasłaniającej piersi np. „ogromną rybą”.

Regulacje dotyczące przemocy pozwalają na generowanie obrazów dzieci walczących ze sobą, ale zakazują pokazywania prawdziwej brutalności lub śmierci. „Dopuszczalne jest pokazywanie dorosłych, nawet starszych, kopanych i bitych” – czytamy w standardach.

Krytyka i konsekwencje

Meta była już wcześniej oskarżana o tworzenie i utrzymywanie kontrowersyjnych mechanizmów, mających na celu utrzymanie zaangażowania użytkowników, zwłaszcza dzieci, i skłanianie ich do udostępniania danych. Ujawnione „lajki” miały popychać nastolatków do porównywania się z innymi i poszukiwania akceptacji.

Sarah Wynn-Williams, była pracownica Mety, ujawniła, że firma identyfikowała stany emocjonalne nastolatków, takie jak poczucie niepewności i bezwartościowości, aby umożliwić reklamodawcom targetowanie ich w słabych momentach.

Sprawa regulacji Meta budzi poważne pytania o odpowiedzialność firm technologicznych za wpływ AI na dzieci i młodzież. Kontrowersje wokół chatbotów Mety z pewnością przyczynią się do zaostrzenia debaty na temat regulacji sztucznej inteligencji i ochrony nieletnich w sieci.