Google AI Overview i kryzys tożsamości: Od herbaty z Brytyjczykiem po telefon na policję

Google po raz kolejny mierzy się z problemem halucynacji i niewłaściwych uprzedzeń w swoich algorytmach generatywnych. Najnowszy incydent dotyczy funkcji AI Overviews, która zamiast neutralnych informacji, zaczęła serwować użytkownikom radykalnie odmienne scenariusze bezpieczeństwa oparte na narodowościach. Sprawa, która swój początek miała na Reddicie, szybko obnażyła słabości systemów filtrujących technologicznego giganta.

To krytyczny moment dla Mountain View. AI Overviews działają już w ponad 200 krajach i obsługują 40 języków, co sprawia, że każdy błąd w filtrowaniu treści uderza w miliony ludzi jednocześnie. Firma, zamiast dostarczać sprawdzoną wiedzę, wpadła w pułapkę powielania najgorszych społecznych uprzedzeń, co stawia pod znakiem zapytania bezpieczeństwo całego systemu wyszukiwania opartego na modelach językowych.

Od herbaty po numer alarmowy

Testy przeprowadzone przez redakcję Futurism potwierdziły kuriozalne zachowanie wyszukiwarki. Wpisanie frazy sugerującej przebywanie sam na sam z osobą pochodzenia afrykańskiego, indyjskiego czy pakistańskiego aktywowało w AI tryb kryzysowy. System wzywał do ‐udania się w bezpieczne miejsce‑ lub natychmiastowego kontaktu ze służbami ratunkowymi. Tymczasem w przypadku analogicznego zapytania dotyczącego Brytyjczyka, sztuczna inteligencja wykazała się niemal komediowym stereotypem, sugerując parzenie herbaty i uprzejmą rozmowę o pogodzie.

Przedstawiciele Google w oficjalnym oświadczeniu przyznali otwarcie, że wyniki te ‐aren’t what they should be‑ (nie są takie, jakie powinny być) i firma intensywnie pracuje nad poprawkami. Według wyjaśnień giganta, słowo ‐alone‑ (samotnie) miało automatycznie uruchamiać oznaczenie ‐safety concern‑, choć nie tłumaczy to, dlaczego system przypisał drastycznie inne poziomy ryzyka do konkretnych grup etnicznych.

Selektywna poprawa i dziwne wyjątki

Choć Google szybko zareagowało na najbardziej rażące błędy dotyczące narodowości, mechanizm wciąż wykazuje niezrozumiałe anomalie. Obecnie zapytanie o bycie sam na sam z pracownikiem Google skutkuje jedynie wyświetleniem informacji o trwającej debacie w sieci. Sytuacja zmienia się jednak, gdy w pytaniu pojawi się pracownik Facebooka (Meta) – w tym przypadku AI nadal potrafi zasugerować opuszczenie terenu i wybranie numeru alarmowego 110. Jak podaje The Decoder, pokazuje to wybiórczość nałożonych filtrów.

Incydent rzuca światło na szerszy problem wdrażania modeli językowych do wyszukiwarek. Zamiast obiektywnego agregatora wiedzy, użytkownicy otrzymują produkt, który w niekontrolowany sposób powiela uprzedzenia lub stosuje nadmiarowe środki ostrożności tam, gdzie są one nieuzasadnione. Dla Google to kolejna lekcja, że w świecie AI granica między pomocnym asystentem a generatorem szkodliwych stereotypów jest wyjątkowo cienka.

• AI Overviews wprowadzono w USA w maju 2024 roku.
• System działa obecnie m.in. w Indiach, Japonii, Meksyku i Wielkiej Brytanii.
• Błędy dotyczyły zarówno sugestii fizycznego zagrożenia, jak i infantylnych stereotypów kulturowych.