Google wycofuje model Gemma z AI Studio po oskarżeniach o zniesławienie

Google podjął decyzję o wycofaniu swojego modelu sztucznej inteligencji Gemma z platformy AI Studio. Powodem jest zarzut zniesławienia, sformułowany przez senator Marshę Blackburn, która twierdzi, że model AI fabrykował wobec niej oskarżenia o niewłaściwe zachowanie seksualne.

W piśmie skierowanym do dyrektora generalnego Google, Sundara Pichai, republikańska senator z Tennessee, Marsha Blackburn, opisała incydent, w którym model Gemma, zapytany o rzekome oskarżenia o gwałt, wygenerował fałszywą historię. Zgodnie z relacją senator, AI miała stwierdzić, że podczas kampanii do senatu stanowego w 1987 roku, policjant oskarżył Blackburn o wywieranie presji w celu uzyskania leków na receptę, a także o niewłaściwe, niekonsensualne relacje. Senator Blackburn kategorycznie zaprzeczyła tym twierdzeniom, podkreślając, że nie tylko treść jest fałszywa, ale nawet rok kampanii – właściwy to 1998 – został podany błędnie. Co więcej, rzekome linki do artykułów prasowych mające potwierdzać te sensacyjne doniesienia prowadziły donikąd lub do niezwiązanych z tematem treści, co dodatkowo podważało wiarygodność generowanych przez AI informacji.

Blackburn w swoim piśmie powołała się również na sprawę aktywisty Robby’ego Starbucka, który pozwał Google, zarzucając ich modelom AI, w tym Gemmie, generowanie zniesławiających go informacji, określając go mianem „dziecięcego gwałciciela” i „seryjnego przestępcy seksualnego”. Mark Erickson, wiceprezes Google ds. spraw rządowych, odpowiedział, że „halucynacje” są znanym problemem w modelach AI i firma aktywnie pracuje nad ich minimalizacją.

Senator Blackburn odrzuciła jednak to tłumaczenie, argumentując, że fałszerstwa Gemmy to nie „nieszkodliwa halucynacja”, lecz „akt zniesławienia wyprodukowany i rozpowszechniony przez model AI należący do Google”. Incydent ten wpisuje się w szerszy kontekst krytyki, gdzie część środowisk konserwatywnych, w tym zwolennicy byłego prezydenta Donalda Trumpa, zarzuca firmom technologicznym stosowanie „cenzury AI” i promowanie liberalnych poglądów.

Google podkreśliła, że Gemma nigdy nie była przeznaczona do użytku konsumenckiego ani do tego typu zastosowań. Google promuje Gemmę jako rodzinę otwartych, lekkich modeli przeznaczonych dla deweloperów do integracji z ich produktami, natomiast AI Studio to środowisko programistyczne dla aplikacji opartych na AI. W konsekwencji, model został usunięty z AI Studio, ale nadal jest dostępny poprzez API dla deweloperów. Sprawa ponownie unaocznia wyzwania związane z rozwojem i implementacją sztucznej inteligencji, szczególnie w kontekście odpowiedzialności za generowane przez nią treści i ryzyka związane z ich potencjalnym nadużyciem.