Apple zaostrza zasady App Store. Aplikacje AI muszą blokować generowanie intymnych zdjęć bez zgody
Apple wprowadziło zmiany w wytycznych App Store, które wprost nakładają na twórców aplikacji AI obowiązek aktywnego zapobiegania tworzeniu i rozpowszechnianiu intymnych materiałów bez zgody osób, których dotyczą. Brak odpowiednich zabezpieczeń lub brak reakcji na zgłoszone naruszenia może skutkować usunięciem programu ze sklepu.
Aktualizacja zasad, opublikowana 16 października, uzupełnia punkt 1.2 regulaminu dotyczący treści generowanych przez użytkowników (UGC). Do listy niedozwolonych materiałów – obok naruszeń praw autorskich czy nękania – dodano wprost obrazy intymne udostępniane bez zgody osób na nich przedstawionych. Przepis obejmuje aplikacje umożliwiające tworzenie, generowanie, przesyłanie lub udostępnianie treści, w tym generatory oparte na modelach sztucznej inteligencji.
Wymogi dla aplikacji UGC obejmują także konkretne narzędzia moderacji: filtrowanie obraźliwych materiałów, możliwość zgłaszania treści oraz blokowania użytkowników dopuszczających się nadużyć. Deweloperzy mają usuwać zgłoszone intymne materiały udostępnione bez zgody osób, których dotyczą, i publikować dane kontaktowe, by użytkownicy mogli łatwo się z nimi skontaktować.
Apple przypomina, że pornografia oraz generowanie nagich lub seksualnych wizerunków realnych osób bez ich zgody były zakazane już wcześniej. Nowe zapisy kładą jednak większy nacisk na odpowiedzialność deweloperów za prewencję i szybkie reagowanie na nadużycia.
Zakaz ukrytych funkcji i walka z omijaniem kontroli
Drugą istotną zmianą jest doprecyzowanie punktu 2.5.19, który zabrania umieszczania w aplikacjach funkcji ukrytych, nieaktywnych lub nieudokumentowanych. Narzędzia przesyłane do weryfikacji muszą jasno przedstawiać swoje możliwości zespołowi App Review oraz użytkownikom. Za celowe zaciemnianie kodu lub wprowadzanie mechanizmów aktywowanych dopiero po akceptacji grozi usunięcie aplikacji oraz zablokowanie konta w programie deweloperskim.
Jak zauważa The Verge, taktyka ta bywa stosowana między innymi przez twórców aplikacji typu „nudify”, które podczas weryfikacji udają zwykłe edytory zdjęć, a kontrowersyjne funkcje odblokowują zdalnie po publikacji.
Skala zjawiska wykracza jednak poza generatory AI. Z danych opublikowanych przez Apple wynika, że w 2025 roku firma usunęła blisko 59 tys. aplikacji stosujących taktykę bait-and-switch, a ponad 22 tys. zgłoszeń odrzuciła na etapie recenzji z powodu ukrytych funkcji.
W zaktualizowanym regulaminie rozszerzono także zakres blokowania aplikacji ułatwiających handel ludźmi lub wykorzystywanie dzieci. Programy naruszające te standardy mają być odcinane nie tylko od App Store, ale również blokowane w alternatywnych kanałach dystrybucji na rynkach, gdzie takie rozwiązanie funkcjonuje, w tym w Unii Europejskiej.
