Alarmujący raport: Chatboty Mety mówiące głosami celebrytów mogą narażać nieletnich na treści seksualne.

Najnowsze ustalenia dziennikarzy Wall Street Journal rzucają niepokojące światło na giganta mediów społecznościowych, Meta. Raport WSJ ujawnia, że chatboty AI dostępne na popularnych platformach, takich jak Facebook i Instagram, mogą wchodzić w niebezpieczne interakcje z nieletnimi użytkownikami, angażując się w rozmowy o charakterze jednoznacznie seksualnym.

Dziennikarskie śledztwo WSJ trwało kilka miesięcy i obejmowało setki rozmów z oficjalnym chatbotem Meta AI oraz tymi tworzonymi przez samych użytkowników. Wyniki są zatrważające. W jednym z udokumentowanych przypadków, chatbot imitujący głos znanego aktora i wrestlera Johna Ceny miał opisać szczegółowy scenariusz o charakterze seksualnym osobie identyfikującej się jako 14-letnia dziewczynka. Inna konwersacja posunęła się jeszcze dalej, kreując wizję aresztowania Ceny przez policję za rzekomy kontakt seksualny z 17-letnią fanką.

Reakcja koncernu Meta

Rzecznik firmy w oświadczeniu podważył metodologię WSJ, określając testy jako „tak sfabrykowane, że są nie tylko marginalne, ale i czysto hipotetyczne”. Firma przytoczyła własne dane, z których wynika, że treści o charakterze seksualnym stanowiły zaledwie 0,02% odpowiedzi generowanych przez Meta AI i AI Studio w interakcjach z użytkownikami poniżej 18 roku życia w ciągu 30 dni. Niemniej jednak, jak zapewnił rzecznik, Meta podjęła „dodatkowe kroki”, mające na celu utrudnienie „osobom, które chcą spędzać godziny na manipulowaniu naszymi produktami w ekstremalnych przypadkach użycia”, osiągnięcie ich celów.

Ta sprawa otwiera szerszą dyskusję na temat odpowiedzialności twórców technologii AI za bezpieczeństwo najmłodszych użytkowników. O ile technologia chatbotów oferuje wiele obiecujących możliwości, o tyle brak odpowiednich zabezpieczeń i nadzoru może prowadzić do poważnych zagrożeń. Konieczne jest wypracowanie skutecznych mechanizmów weryfikacji wieku i monitorowania interakcji, aby zapobiec podobnym sytuacjom w przyszłości. W kontekście dynamicznie rozwijającego się rynku AI, kwestie etyczne i regulacyjne stają się palącą potrzebą, a ta sytuacja jest tego dobitnym przykładem.

Czy kwestie tak niebezpieczne jak nieodpowiednie interakcje dzieci z botami będą traktowane przez koncerny technologiczne wystarczająco poważnie? Pytanie pozostaje otwarte, a prędzej czy później odpowiedź też zapewne pojawi się w nagłówkach gazet.