Fiasko weryfikacji wieku na Robloxie: Czy AI pogrąża platformę?

Roblox, platforma gier online o globalnym zasięgu, mierzy się z falą krytyki po wdrożeniu systemu weryfikacji wieku opartego na sztucznej inteligencji. Rozwiązanie, mające na celu zwiększenie bezpieczeństwa i ułatwienie interakcji między użytkownikami w podobnym wieku, przyniosło nieoczekiwane, negatywne konsekwencje.

Po zaledwie kilku dniach od globalnego uruchomienia system, który pierwotnie zadebiutował w grudniu w wybranych regionach, jest określany przez wielu jako „totalny bałagan”. Użytkownicy oskarżają AI o błędne kategoryzowanie wieku — dzieci są identyfikowane jako dorośli, a dorośli jako nastolatki. To z kolei prowadzi do utraty możliwości komunikacji z rówieśnikami i znajomymi, co jest kluczową funkcją platformy.

Poważne zarzuty i reakcja twórców

Deweloperzy współpracujący z Robloxem domagają się wycofania aktualizacji. Eksperci podkreślają, że AI nie tylko popełnia błędy w identyfikacji wieku, ale co gorsza, nie rozwiązuje problemu, z którym miała się zmierzyć — obecności drapieżników na platformie. Co więcej, portal Wired ujawnia, że na platformie eBay pojawiły się oferty sprzedaży zweryfikowanych kont dla nieletnich, nawet 9-latków, po cenach zaczynających się od 4 dolarów. eBay szybko usunął te ogłoszenia, reagując na zgłoszenie.

Matt Kaufman, dyrektor ds. bezpieczeństwa w Roblox, w odpowiedzi na krytykę, podkreśla, że wdrożenie tak ogromnej zmiany na platformie z ponad 150 milionami użytkowników dziennie wymaga czasu. „Nie można po prostu włączyć przełącznika, tworząc coś, co nigdy wcześniej nie istniało” – skomentował Kaufman, dodając, że „dziesiątki milionów użytkowników” zweryfikowało już swój wiek, co w jego ocenie dowodzi, że społeczność ceni sobie bezpieczniejsze środowisko.

Firma odniosła się też do problemu „błędnej weryfikacji wieku” w przypadku rodziców weryfikujących konta dzieci, co prowadziło do przypisywania nieletnim statusu „21+”. Roblox zapowiedział prace nad rozwiązaniami tego problemu.

Geneza problemu i kontrowersje wokół weryfikacji

Wymóg weryfikacji wieku został ogłoszony w lipcu ubiegłego roku jako element szerszej strategii mającej na celu zwiększenie bezpieczeństwa na platformie. Roblox znalazł się pod presją wielu pozwów sądowych, zarzucających firmie niedostateczną ochronę najmłodszych użytkowników i ułatwianie działalności pedofilom. Podobne zarzuty postawiły prokuratury generalne stanów Luizjana, Teksas i Kentucky, a prokurator generalny Florydy wszczął postępowanie karne w celu oceny, czy Roblox „pomaga drapieżnikom w uzyskiwaniu dostępu do dzieci i ich krzywdzeniu”.

Roblox argumentuje, że obowiązkowa weryfikacja wieku przed uzyskaniem dostępu do funkcji czatu ma zapobiec swobodnej interakcji dorosłych z nieznajomymi dziećmi. Chociaż proces jest dobrowolny, rezygnacja z niego oznacza utratę dostępu do funkcji czatu, co dla wielu stanowi kluczowy element korzystania z platformy.

Proces weryfikacji polega na nagraniu krótkiego wideo, które jest następnie analizowane przez firmę Persona w celu oszacowania wieku. Alternatywnie, użytkownicy powyżej 13 roku życia mogą przesłać skan rządowego dokumentu tożsamości. Roblox zapewnia, że wszystkie dane osobowe są „natychmiast usuwane po przetworzeniu”. Mimo to wielu użytkowników wyraża obawy dotyczące prywatności.

Chaos w społeczności i liczne skargi

Osoby, które zweryfikowały swój wiek, mogą czatować jedynie z niewielką grupą innych graczy w podobnych grupach wiekowych. Na przykład zweryfikowani użytkownicy poniżej 9. roku życia mogą komunikować się z osobami do 13. roku życia, natomiast 16-latkowie z graczami w wieku od 13 do 20 lat.

Po globalnym wdrożeniu systemu fora internetowe, Reddit, a także platformy takie jak X (dawniej Twitter) i TikTok zalała fala skarg. Wired przeprowadził analizę setek wpisów od graczy i rodziców, którzy twierdzą, że system błędnie zidentyfikował wiek użytkowników. Jeden z użytkowników X, twierdząc, że ma 23 lata, został sklasyfikowany jako 16- lub 17-latek, komentując: „Nie chcę czatować z jebanymi dziećmi”. Inny, 18-latek, pisał, że Roblox „nadal uważał go za 13-15-latka”. W odpowiedzi inny użytkownik X ironicznie stwierdził: „Mam pełną brodę i mój alternatywny profil został przypisany do grupy wiekowej 13-16 lat”.

Nie brakuje też relacji o tym, że system klasyfikuje małe dzieci jako dorosłych. Jeden z użytkowników X donosił, że jego 10-letnie rodzeństwo trafiło do kategorii „powyżej 18 lat”.

Użytkownicy udostępniali również filmy instruktażowe pokazujące, jak oszukać system, aby uzyskać weryfikację bez użycia prawdziwej twarzy, wykorzystując awatary lub zdjęcia celebrytów, takich jak Kurt Cobain. W jednym z szeroko udostępnianych klipów system przypisuje status „21+” młodemu chłopcu, który narysował na twarzy zmarszczki i zarost.

Ry Terran, niezależny badacz ekstremizmu, monitorujący sieci wykorzystujące Roblox do celów nadużyć, komentuje: „Widziałem wiele postów online z sugestiami dotyczącymi oszukiwania systemu weryfikacji wieku, ale myślę, że największym zagrożeniem jest duża liczba kont, które zostały błędnie przypisane do niewłaściwej kategorii wiekowej, oraz nowe wyzwania dla rodziców i moderatorów w grze, aby stwierdzić, czy dzieci nie są wykorzystywane na czacie”.

Reakcja Roblox i bunt społeczności

Roblox zapewnia, że będzie losowo ponownie weryfikować wiek użytkowników w przypadku podejrzenia oszustwa lub podjęcia działań w przypadku „potencjalnego fałszywego przedstawienia wieku”. Firma nie podała jednak szczegółów dotyczących mechanizmu tej ponownej weryfikacji ani tego, czy użytkownicy będą o niej informowani.

Oficjalne forum deweloperów Roblox zostało zalane tysiącami negatywnych komentarzy, z przeważającą większością wzywającą do cofnięcia aktualizacji i wsłuchania się w głosy użytkowników. Wielu deweloperów zgłosiło drastyczny spadek aktywności czatu w swoich grach, co w jednym przypadku oznaczało spadek z 85% do 36% graczy korzystających z tej funkcji. Użytkownicy opisują doświadczenia z grą na platformie po aktualizacji jako „bez życia” i „totalne miasto duchów”.

„Dlaczego nadal forsujemy tę zmianę?” – napisał jeden z deweloperów w odpowiedzi na oświadczenie Roblox. „Nikt nie chce tej okropnej zmiany, a ona tylko szkodzi naszej podstawowej bazie użytkowników zamiast zapewniać bezpieczeństwo. Roblox jest z natury platformą społecznościową, a te ostatnie zmiany pchnęły nas w przyszłość bez prywatności i z cenzurą zamiast komunikacji i… grania w fajne gry.”