Prokuratorzy generalni ostrzegają OpenAI: „Krzywda wyrządzana dzieciom nie będzie tolerowana”

Prokurator generalny Kalifornii, Rob Bonta, oraz jego odpowiedniczka z Delaware, Kathy Jennings, spotkali się z przedstawicielami OpenAI i wystosowali do firmy oficjalny list otwarty, w którym wyrazili głębokie zaniepokojenie kwestiami bezpieczeństwa związanymi z ChatGPT, ze szczególnym uwzględnieniem potencjalnego wpływu na dzieci i młodzież.

Ostrzeżenie to pojawia się zaledwie tydzień po tym, jak Bonta i 44 innych prokuratorów generalnych skierowało pismo do dwunastu czołowych firm z branży sztucznej inteligencji, w reakcji na doniesienia o niepokojących, o charakterze seksualnym, interakcjach między chatbotami AI a nieletnimi.

„Od czasu wystosowania tamtego listu dowiedzieliśmy się o wstrząsającej śmierci samobójczej młodego mieszkańca Kalifornii, do której doszło po długotrwałych interakcjach z chatbotem OpenAI, a także o podobnie niepokojącym przypadku morderstwa i samobójstwa w Connecticut”, piszą Bonta i Jennings. „Okazuje się, że wszelkie istniejące zabezpieczenia zawiodły.”

Obecnie oboje prokuratorzy prowadzą dochodzenie w sprawie proponowanej restrukturyzacji OpenAI w podmiot nastawiony na zysk. Celem jest upewnienie się, że misja organizacji non-profit pozostanie nienaruszona. Misja ta „obejmuje zapewnienie bezpiecznego wdrażania sztucznej inteligencji” oraz budowę sztucznej inteligencji ogólnej (AGI) z korzyścią dla całej ludzkości, „w tym dzieci”, jak czytamy w liście.

„Zanim przejdziemy do korzyści, musimy upewnić się, że wdrożono odpowiednie środki bezpieczeństwa, aby zapobiec szkodom”, kontynuują autorzy listu. „Naszym wspólnym zdaniem OpenAI i cała branża nie są jeszcze w miejscu, w którym powinny być, jeśli chodzi o zapewnienie bezpieczeństwa w procesie rozwoju i wdrażania produktów AI. Jako prokuratorzy generalni, bezpieczeństwo publiczne jest jedną z naszych kluczowych misji. Kontynuując dialog dotyczący planu dokapitalizowania OpenAI, musimy dążyć do przyspieszenia i wzmocnienia bezpieczeństwa jako siły napędowej przyszłości tej potężnej technologii.”

Bonta i Jennings zwrócili się do OpenAI z prośbą o udostępnienie dodatkowych informacji na temat obecnych środków ostrożności i nadzoru, oczekując jednocześnie, że firma niezwłocznie podejmie działania naprawcze tam, gdzie to właściwe.