Ochrona dzieci w sieci: globalny ruch napędza rozwój technologii bezpieczeństwa opartych na AI

Presja regulacyjna na firmy technologiczne rośnie. Rządy państw i organizacje pozarządowe na całym świecie coraz aktywniej walczą o bezpieczeństwo dzieci w internecie. W odpowiedzi na te wyzwania, branża technologiczna coraz śmielej sięga po rozwiązania oparte na sztucznej inteligencji, mające na celu ograniczenie dostępu najmłodszych do potencjalnie niebezpiecznych treści.

Nowe regulacje prawne motorem zmian

W Wielkiej Brytanii przyjęto ustawę o bezpieczeństwie w sieci (Online Safety Act), która nakłada na firmy technologiczne obowiązek ochrony dzieci przed materiałami nieodpowiednimi dla ich wieku, mową nienawiści, cyberprzemocą, oszustwami oraz treściami związanymi z wykorzystywaniem seksualnym dzieci (CSAM). Za naruszenie przepisów grożą kary finansowe sięgające nawet 10% globalnego rocznego przychodu firmy.

Podobne regulacje są procedowane w Kongresie USA. Ustawa Kids Online Safety Act (KOSA) ma na celu uczynienie platform mediów społecznościowych odpowiedzialnymi za zapobieganie szkodliwemu wpływowi ich produktów na dzieci. To wyraźny sygnał, że ustawodawcy poważnie traktują problem i dążą do stworzenia bezpieczniejszego środowiska online dla najmłodszych.

AI w służbie bezpieczeństwa dzieci

Rosnąca presja regulacyjna skłania gigantów technologicznych do ponownego przemyślenia strategii. Pornhub, jeden z największych serwisów pornograficznych, zablokował dostęp do swoich treści dla użytkowników, którzy nie przeszli weryfikacji wieku. Podobne systemy wdrożyły Spotify, Reddit i X.

W centrum walki o weryfikację wieku stoi firma Yoti, która opracowała technologię wykorzystującą sztuczną inteligencję do szacowania wieku na podstawie zdjęć selfie. Według firmy, ich algorytm, wytrenowany na milionach twarzy, jest w stanie określić wiek osób w przedziale 13-24 lat z dokładnością do dwóch lat. Chociaż na rynku istnieją również inne firmy oferujące podobne rozwiązania, Yoti jest obecnie jednym z głównych dostawców usług weryfikacji wieku w Wielkiej Brytanii.

Kontrowersje wokół weryfikacji wieku

Wprowadzane regulacje i technologie nie są pozbawione krytyki. Część branży technologicznej wyraża obawy dotyczące potencjalnego naruszenia prywatności użytkowników.Pete Kenyon, partner w firmie prawniczej Cripps, zwraca uwagę na istotne kwestie związane z ochroną danych osobowych i konieczność wdrożenia rygorystycznych procedur technicznych i prawnych.

Rani Govender z brytyjskiej organizacji charytatywnej NSPCC podkreśla, że istnieją technologie, które pozwalają na uwierzytelnianie użytkowników bez narażania ich prywatności. Wskazuje na potrzebę podejmowania przez firmy technologiczne świadomych i etycznych wyborów, które będą chronić dzieci przed szkodliwymi treściami bez kompromitowania prywatności.

Nie tylko oprogramowanie

Działania na rzecz ochrony dzieci w sieci nie ograniczają się jedynie do oprogramowania. Fiński producent telefonów HMD Global zaprezentował smartfon Fusion X1, który wykorzystuje AI do blokowania możliwości nagrywania lub udostępniania nagich zdjęć przez dzieci, a także wyświetlania treści o charakterze seksualnym na ekranie lub w aplikacjach.Telefon korzysta z technologii opracowanej przez brytyjską firmę SafeToNet.

Rosnąca popularność „smartfonów dla dzieci” to odpowiedź na problem uzależnienia od urządzeń mobilnych. Organizacje takie jak NSPCC apelują do gigantów technologicznych, takich jak Google i Meta, o uczynienie bezpieczeństwa dzieci priorytetem.

„Przez lata giganci technologiczni stali z boku, podczas gdy szkodliwe i nielegalne treści rozprzestrzeniały się na ich platformach, narażając młodych ludzi na niebezpieczeństwo” – mówi Govender z NSPCC. „Ta era zaniedbań musi się skończyć.”