OpenAI wstrzymuje generowanie wideo z Martinem Lutherem Kingiem Jr. w Sora po fali kontrowersji

OpenAI poinformowało o wstrzymaniu możliwości generowania filmów wideo z wykorzystaniem sztucznej inteligencji naśladujących Martina Luthera Kinga Jr. Powodem są kontrowersje związane z tworzeniem przez użytkowników platformy Sora „nieodpowiednich przedstawień” wizerunku ikony walki o prawa obywatelskie.

Decyzja ta zapadła na wniosek spadkobierców Dr. Kinga. OpenAI tłumaczy, że choć swoboda wypowiedzi jest ważna, to osoby publiczne i ich rodziny powinny mieć kontrolę nad wykorzystaniem ich wizerunku. Firma w poście na platformie X zaznaczyła, że upoważnieni przedstawiciele lub właściciele majątków mogą zażądać, by ich podobizny nie były wykorzystywane w Sora.

Spółka zarządzająca majątkiem Martina Luthera Kinga Jr. (King, Inc.) i OpenAI współpracowały w celu rozwiązania problemu reprezentacji dr. Kinga w generacjach Sora. Niektóre filmy wygenerowane przez użytkowników przedstawiały go w sposób uwłaczający jego godności.

Ograniczenie zostało wprowadzone zaledwie kilka tygodni po uruchomieniu Sory, platformy wideo OpenAI, która umożliwia użytkownikom tworzenie realistycznych filmów generowanych przez sztuczną inteligencję, przypominających postacie historyczne, ich znajomych i użytkowników, którzy zdecydują się na odtworzenie swoich podobizn na platformie. Uruchomienie wywołało gorącą debatę publiczną na temat zagrożeń związanych z filmami generowanymi przez sztuczną inteligencję i tego, w jaki sposób platformy powinny wdrażać zabezpieczenia wokół tej technologii.

Córka Kinga, Bernice King, opublikowała w mediach społecznościowych apel, w którym prosiła o zaprzestanie przesyłania jej filmów z wizerunkiem jej ojca wygenerowanych przez AI. Z podobnym apelem wystąpiła córka Robina Williamsa.

Jak donosi „The Washington Post”, w Sora pojawiały się nagrania, na których King wydawał małpie odgłosy lub brał udział w zapasach z innym działaczem na rzecz praw obywatelskich, Malcolmem X. Przeszukując aplikację Sora, łatwo natrafić na nieodpowiednie filmy przedstawiające inne postacie historyczne, takie jak artysta Bob Ross, piosenkarka Whitney Houston i były prezydent John F. Kennedy. Kontrowersje budzi także wykorzystanie w Sora wizerunków postaci z bajek, takich jak SpongeBob, South Park i Pokémon.

OpenAI wprowadza kolejne ograniczenia w Sora. Wcześniej firma informowała o planach oddania posiadaczom praw autorskich większej kontroli nad wykorzystaniem ich wizerunków w filmach generowanych przez sztuczną inteligencję. Była to prawdopodobnie reakcja na negatywne reakcje Hollywood.

Mimo ograniczeń w Sora, OpenAI zdaje się przyjmować bardziej liberalne podejście do moderowania treści w ChatGPT. Firma ogłosiła, że wkrótce umożliwi dorosłym użytkownikom prowadzenie „erotycznych” rozmów z chatbotem.

Wprowadzając ograniczenia w Sora, OpenAI zdaje się mierzyć z problemami związanymi z generowaniem wideo przez sztuczną inteligencję. Niektórzy badacze OpenAI publicznie zmagali się z pytaniami o pierwszą platformę społecznościową opartą na sztucznej inteligencji i o to, jak taki produkt wpisuje się w misję non-profit. Dyrektor generalny OpenAI Sam Altman powiedział, że firma odczuwała „obawy” dotyczące Sory w dniu premiery.

Nick Turley, szef ChatGPT, powiedział, że najlepszym sposobem na zapoznanie świata z nową technologią jest udostępnienie jej światu. Dodał, że firma nauczyła się tego dzięki ChatGPT i to samo obserwuje w przypadku Sory. Wydaje się, że OpenAI uczy się, jak dystrybuować tę technologię.