Ofensywa OpenAI przeciwko nadużyciom: Nowa strategia ochrony dzieci w erze generatywnej AI

Reakcja na kryzys wirtualnego bezpieczeństwa

OpenAI zaprezentowało „Child Safety Blueprint” – strategiczny dokument określający nowe ramy współpracy z organami ścigania oraz sektorem publicznym w celu zwalczania nadużyć wobec dzieci. Decyzja ta zapadła w krytycznym momencie dla branży. Według danych Internet Watch Foundation (IWF) tylko w pierwszej połowie 2025 roku zidentyfikowano ponad 8 tysięcy przypadków treści przedstawiających wykorzystywanie nieletnich wygenerowanych przez sztuczną inteligencję, co stanowi czternastoprocentowy skok w skali roku.

Nowy plan giganta z San Francisco nie ogranicza się wyłącznie do filtrowania treści. Skupia się na trzech kluczowych filarach: aktualizacji przepisów prawnych, tak aby uwzględniały materiały syntetyczne, optymalizacji mechanizmów zgłaszania incydentów oraz wdrażaniu natywnych zabezpieczeń bezpośrednio w architekturę modeli AI. Celem jest skrócenie czasu reakcji oraz dostarczanie śledczym danych, które mogą realnie przełożyć się na zatrzymania sprawców.

Pod presją prawną i społeczną

Choć OpenAI promuje dokument jako krok ku odpowiedzialnej innowacji, trudno nie dostrzec w nim próby odzyskania zaufania po fali krytyki. Firma mierzy się obecnie z poważnymi zarzutami dotyczącymi wpływu jej technologii na zdrowie psychiczne młodych użytkowników. W Kalifornii toczy się siedem procesów wytoczonych przez Social Media Victims Law Center, w których podnosi się tezę, że model GPT-4o został udostępniony przedwcześnie, a jego „manipulacyjna natura” miała doprowadzić do tragedii, w tym samobójstw i epizodów psychotycznych u nastolatków.

Sojusz z organami ścigania

Opracowanie strategii odbyło się przy współpracy z instytucjami takimi jak National Center for Missing and Exploited Children (NCMEC) oraz prokuratorami generalnymi z Karoliny Północnej i Utah. To partnerstwo ma kluczowe znaczenie, ponieważ AI radykalnie obniżyło próg wejścia dla przestępców korzystających z narzędzi do szantażu seksualnego (sextortion) czy groomingu.

Nowe wytyczne stanowią rozszerzenie wcześniejszych działań, takich jak specjalna mapa drogowa bezpieczeństwa przygotowana dla rynku indyjskiego. OpenAI deklaruje, że ich systemy będą jeszcze silniej blokować próby generowania treści instruktażowych dotyczących samookaleczeń czy omijania kontroli rodzicielskiej. Pytaniem otwartym pozostaje jednak, czy te reaktywne kroki wystarczą, by nadążyć za tempem, w jakim technologia AI jest adaptowana przez osoby o złych intencjach.