Koniec bezkarności cyfrowych drapieżców. Pierwsze federalne zarzuty za pornograficzne deepfaki

Amerykański wymiar sprawiedliwości wykonuje zdecydowany krok w stronę uregulowania mrocznej strony sztucznej inteligencji. Prokuratorzy federalni w Nowym Jorku postawili zarzuty Arturo Hernandezowi oraz Corneliusowi Shannonowi, oskarżając ich o masowe generowanie i dystrybucję pornografii typu deepfake. Wykorzystując zaawansowane algorytmy AI, oskarżeni mieli przekształcać ogólnodostępne zdjęcia kobiet w drastyczne materiały erotyczne bez ich wiedzy i zgody. To jedna z pierwszych tak szeroko zakrojonych akcji organów ścigania na podstawie nowo uchwalonej ustawy Take It Down Act.

To kluczowy moment dla cyfrowego bezpieczeństwa: sprawa zbiega się w czasie z gwałtownym przyspieszeniem regulacji w USA i Europie. Podczas gdy Amerykanie testują nowe przepisy w sądach, Unia Europejska wdraża dyrektywę o zwalczaniu przemocy wobec kobiet oraz AI Act, które po raz pierwszy na taką skalę penalizują udostępnianie seksualnych treści syntetycznych. Krajobraz prawny zmienia się na naszych oczach — od ery całkowitej samowolki do konkretnej odpowiedzialności karnej dla twórców, dystrybutorów i platform.

Przemysł upokorzenia na masową skalę

Skala procederu ujawnionego przez śledczych jest zatrważająca. Według akt sądowych, Shannon i Hernandez opublikowali ponad 470 albumów zawierających tysiące wygenerowanych materiałów, które uderzyły w ponad 140 kobiet. Wśród ofiar znalazły się zarówno osoby publiczne, jak i nastolatki tuż po ukończeniu szkół średnich. Do stworzenia tak realistycznego materiału wystarczyło im jedno zdjęcie z mediów społecznościowych. Nagrania i zdjęcia zdobyły wielomilionowe zasięgi, niszcząc reputację ofiar jednym kliknięciem myszki.

Joseph Nocella, prokurator federalny dla Wschodniego Okręgu Nowego Jorku, podkreśla, że technologia w rękach oskarżonych stała się narzędziem degradacji. Choć obrazy są syntetyczne, krzywda wyrządzona realnym osobom jest namacalna. Potwierdzają to analizy Komendy Stołecznej Policji, które wskazują, że materiały te są coraz częściej wykorzystywane do nękania, szantażu i tzw. sextortion.

Prawo, które dogania technologię

Podstawą prawną dla tych działań jest Take It Down Act. Ustawa ta kryminalizuje udostępnianie oraz groźbę udostępnienia intymnych materiałów stworzonych bez zgody osób na nich przedstawionych. Nakłada ona również surowe wymogi na platformy internetowe, które mają zaledwie 48 godzin na usunięcie zgłoszonych treści.

W Europie sytuacja wygląda nieco inaczej. Unijny AI Act wprowadza co prawda techniczne znakowanie (watermarking) treści generowanych przez AI, ale jak zauważa Fundacja Panoptykon: „Sam AI Act nie tworzy nowych uprawnień ani ścieżek dochodzenia praw dla osób, których wizerunek został wykorzystany”. Polska również zmaga się z lukami prawnymi. Agnieszka Ziobroń w analizie dla Uniwersytetu Wrocławskiego punktuje brutalną rzeczywistość: „Samo wytworzenie deepfake’a nie wypełnia znamion przestępstwa utrwalania wizerunku nagiej osoby”.

Choć sprawa Hernandeza i Shannona przyciąga uwagę, wcześniej James Strahler II z Ohio przyznał się już do winy w podobnym procesie. Organy ścigania wysyłają jasny sygnał: wykorzystywanie sztucznej inteligencji do upokarzania to brutalne przestępstwo, za które grożą lata więzienia.