Sztuczna inteligencja wkracza do akcji: globalny ruch na rzecz ochrony dzieci w sieci nabiera tempa

Ochrona dzieci w internecie staje się priorytetem na całym świecie. Nowe regulacje w Wielkiej Brytanii i Stanach Zjednoczonych zaostrzają odpowiedzialność firm technologicznych za treści, do których dostęp mają najmłodsi użytkownicy. To z kolei napędza rozwój innowacyjnych systemów opartych na sztucznej inteligencji, które mają filtrować i blokować materiały nieodpowiednie dla dzieci.

Spotify, Reddit i X to tylko niektóre platformy, które wdrożyły systemy weryfikacji wieku, aby ograniczyć dostęp dzieci do treści przeznaczonych dla dorosłych. Globalny ruch na rzecz bezpieczeństwa online stwarza przestrzeń dla rozwoju narzędzi wykorzystujących sztuczną inteligencję do ochrony dzieci przed potencjalnie szkodliwymi treściami w internecie.

Prawo wymusza zmiany

W Wielkiej Brytanii obowiązuje ustawa o bezpieczeństwie w internecie (Online Safety Act), która nakłada na firmy technologiczne obowiązek dbałości o ochronę dzieci przed treściami nieodpowiednimi dla ich wieku, mową nienawiści, cyberprzemocą, oszustwami i materiałami związanymi z wykorzystywaniem seksualnym dzieci. Za naruszenia tych przepisów grożą kary finansowe sięgające nawet 10% globalnego rocznego przychodu firmy.

Podobne regulacje są procedowane w Kongresie USA. Ustawa o bezpieczeństwie dzieci w internecie (Kids Online Safety Act) ma na celu uczynienie platform mediów społecznościowych odpowiedzialnymi za zapobieganie szkodliwemu wpływowi ich produktów na dzieci – analogicznie do brytyjskiej ustawy Online Safety Act.

Presja regulacyjna zmusza gigantów technologicznych do ponownego przemyślenia swoich strategii. Pornhub i inne serwisy pornograficzne blokują dostęp użytkownikom, którzy nie przeszli systemu weryfikacji wieku.

Wyścig technologiczny o bezpieczeństwo

W centrum działań związanych z weryfikacją wieku znajduje się firma Yoti, oferująca technologię wykorzystującą sztuczną inteligencję do szacowania wieku na podstawie selfie. Algorytm Yoti, wytrenowany na milionach twarzy, potrafi określić wiek osób w przedziale 13-24 lat z dokładnością do dwóch lat.

„Trwa wyścig o zaufanie w dziedzinie technologii i usługodawców związanych z bezpieczeństwem dzieci” – powiedział Pete Kenyon, partner w kancelarii prawnej Cripps. „Nowe wymagania niewątpliwie stworzyły nowy rynek, a dostawcy starają się zaznaczyć swoją obecność.”

Prywatność pod znakiem zapytania

Wraz z rozwojem metod cyfrowej identyfikacji pojawiają się obawy dotyczące naruszenia prywatności i możliwych wycieków danych. „Wykorzystanie tej technologii rodzi istotne kwestie związane z prywatnością” – zauważa Kenyon. „Zaufanie jest kluczowe i można je zdobyć jedynie poprzez stosowanie rygorystycznych i skutecznych procedur technicznych i zarządczych, które zapewnią bezpieczeństwo danych osobowych.”

Rani Govender z brytyjskiej organizacji charytatywnej NSPCC podkreśla, że istnieją technologie, które pozwalają uwierzytelnić użytkowników bez naruszania ich prywatności. Jej zdaniem firmy technologiczne powinny dokonywać etycznych wyborów i wybierać rozwiązania, które chronią dzieci przed szkodliwymi treściami, nie narażając przy tym prywatności użytkowników.

Smartfony pod kontrolą

Nowe technologie chroniące dzieci przed zagrożeniami online to nie tylko oprogramowanie. Fiński producent telefonów HMD Global wprowadził na rynek smartfon Fusion X1, który wykorzystuje sztuczną inteligencję do blokowania możliwości nagrywania lub udostępniania przez dzieci nagich treści oraz przeglądania materiałów o charakterze seksualnym. Telefon korzysta z technologii SafeToNet, brytyjskiej firmy specjalizującej się w cyberbezpieczeństwie dzieci.

Wprowadzenie na rynek telefonu HMD, przyjaznego dzieciom, zbiega się z rosnącą popularnością ruchu „smartphone-free”, który zachęca rodziców do unikania kupowania dzieciom smartfonów. Przyszłość pokaże, czy giganci technologiczni, tacy jak Google i Meta, potraktują bezpieczeństwo dzieci jako priorytet. Od lat są oni oskarżani o pogarszanie zdrowia psychicznego dzieci i nastolatków z powodu cyberprzemocy i uzależnienia od mediów społecznościowych.