Algorytmy rozpoznawania twarzy wykluczają osoby z odmiennościami w wyglądzie

Szacuje się, że na świecie żyje około 100 milionów osób z różnego rodzaju odmiennościami w wyglądzie twarzy. Wraz z postępującą automatyzacją i powszechnością systemów rozpoznawania twarzy, osoby te coraz częściej doświadczają wykluczenia i trudności w dostępie do podstawowych usług.

Autumn Gardiner, cierpiąca na zespół Freemana-Sheldona, przekonała się o tym podczas próby wymiany prawa jazdy. System weryfikacji w urzędzie nie był w stanie rozpoznać jej twarzy, co wywołało u niej poczucie upokorzenia. Jak wspomina, czuła się, jakby maszyna mówiła jej, że nie ma ludzkiej twarzy.

Podobne doświadczenia relacjonuje szereg innych osób z różnymi odmiennościami – od znamion po wady czaszkowo-twarzowe. Systemy rozpoznawania twarzy zawodzą w ich przypadku, uniemożliwiając dostęp do usług publicznych, finansowych czy nawet mediów społecznościowych.

Technologia, która dyskryminuje

Phyllida Swift, dyrektorka generalna Face Equality International (FEI), organizacji zrzeszającej organizacje charytatywne działające na rzecz osób z odmiennościami w wyglądzie, podkreśla, że problem ten jest powszechny. Badania FEI wskazują na trudności z przejściem przez bramki paszportowe na lotniskach, korzystaniem z aplikacji fotograficznych, filtrów wideo w mediach społecznościowych, a nawet z funkcją rozmycia tła podczas rozmów wideo.

Systemy rozpoznawania twarzy, oparte na algorytmach uczenia maszynowego, mogą być niedokładne w przypadku osób z nietypowymi cechami. Wynika to z faktu, że zbiory danych, na których trenowane są te algorytmy, często nie uwzględniają wystarczającej różnorodności wyglądu twarzy.

Greta Byrum z Present Moment Enterprises, firmy konsultingowej specjalizującej się w społecznym wpływie technologii, zwraca uwagę, że przypadek Face Equality International jest sygnałem ostrzegawczym. Pokazuje, co się dzieje, gdy systemy nie działają prawidłowo dla wszystkich. Technologia rozpoznawania twarzy staje się narzędziem, które traktuje wszystkich jednakowo, nie uwzględniając indywidualnych różnic.

Konieczne zmiany i alternatywy

Crystal Hodges, która żyje z zespołem Sturge’a-Webera i ma purpurowe znamię na twarzy, apeluje o uwzględnienie różnorodności wyglądu. Zwraca uwagę, że nie każdy ma symetryczną twarz, a wiele osób ma cechy, które nie są powszechnie spotykane. Podkreśla, że jeśli osoby z niepełnosprawnościami lub odmiennościami w wyglądzie nie zostaną uwzględnione na etapie projektowania systemów, problemy będą się powtarzać.

Kathleen Bogart, profesor psychologii z Oregon State University, specjalizująca się w badaniach nad niepełnosprawnością, uważa, że sztuczna inteligencja spotęgowała istniejące problemy związane z niedostateczną reprezentacją i uprzedzeniami wobec osób z odmiennościami w wyglądzie.

Hannah Saunders z FEI podkreśla, że konieczne jest wprowadzenie alternatywnych metod weryfikacji tożsamości. Rozwiązaniem długoterminowym może być zmiana technologii, ale obecnie najważniejsze jest, aby ludzie mogli bez problemów ubiegać się o pracę, dostępować do swoich pieniędzy i przekraczać kontrolę paszportową.

Noor Al-Khaled, cierpiąca na rzadką wadę czaszkowo-twarzową, Ablepheron Macrostomia, od miesięcy bezskutecznie próbuje założyć konto online w Social Security Administration. Brak możliwości zdalnego dostępu do dokumentów utrudnia jej codzienne funkcjonowanie. Jak sama mówi, czuje się wykluczona ze społeczeństwa.

Corey R. Taylor, aktor i mówca motywacyjny z wadą czaszkowo-twarzową, wspomina, jak musiał wyginać twarz, aby system w aplikacji finansowej zaakceptował jego selfie. Podkreśla, że bycie ocenianym przez maszynę z powodu wyglądu jest upokarzające.

Apel o empatię i lepsze protokoły

Autumn Gardiner, po doświadczeniach w urzędzie komunikacji, skontaktowała się z lokalnym przedstawicielem władz, który podjął interwencję. Urzędnicy zapewnili, że dokładają wszelkich starań, aby zapewnić profesjonalną obsługę mieszkańcom. Rzecznik Idemia, firmy dostarczającej technologię dla urzędu, poinformował o regularnych szkoleniach personelu i wysokich ocenach algorytmów w zewnętrznych testach.

Gardiner podkreśla, że potrzebne są lepsze protokoły postępowania w sytuacjach, gdy sztuczna inteligencja zawodzi. Apeluje o to, by systemy rozpoznawania twarzy były używane z rozwagą i w połączeniu z ludzką oceną.

Problem jest poważny, a skala jego występowania może być trudna do oszacowania. Jak mówi Crystal Hodges, ludzie pytają ją ze zdziwieniem, czy w ogóle wychodzi z domu. Dziś to pytanie zdaje się rozszerzać na sferę cyfrową: „Nie mogę uwierzyć, że wychodzisz z domu i że wchodzisz do sieci”.