Ant International triumfuje w walce z algorytmicznym uprzedzeniem w rozpoznawaniu twarzy w AI
W obliczu rosnącej roli rozpoznawania twarzy w sektorze finansowym problem uprzedzeń algorytmicznych staje się coraz bardziej palący. Badania przeprowadzone przez amerykański Narodowy Instytut Standardów i Technologii (NIST) wielokrotnie wykazały, że powszechnie stosowane algorytmy rozpoznawania twarzy charakteryzują się znacznie wyższymi wskaźnikami błędów w analizie twarzy kobiet i osób o ciemniejszym kolorze skóry. To zjawisko wynika z braku różnorodności w danych treningowych oraz jednorodności demograficznej zespołów odpowiedzialnych za tworzenie i zarządzanie platformami sztucznej inteligencji.
Konsekwencje takich uprzedzeń mogą być dalekosiężne, prowadząc do odmawiania dostępu do usług finansowych dużym segmentom populacji, co w efekcie podważa bezpieczeństwo protokołów identyfikacji. Odpowiedzią na te wyzwania jest konkurs NeurIPS (Conference on Neural Information Processing Systems), prestiżowe wydarzenie towarzyszące cenionej konferencji AI, które rzuciło wyzwanie uczestnikom w stworzeniu modeli AI zdolnych do osiągania wysokiej wydajności i sprawiedliwości w rozpoznawaniu twarzy, niezależnie od płci, wieku czy odcienia skóry.
Tegorocznym zwycięzcą, spośród ponad 2100 zgłoszeń od 162 zespołów z całego świata, została firma Ant International. Ich model sztucznej inteligencji, składający się z architektury Mixture of Experts (MoE) i mechanizmu wykrywania stronniczości, pokazał innowacyjne podejście w walce z problemem. System trenuje dwie konkurujące sieci neuronowe: jedna koncentruje się na identyfikacji deepfake’ów, a druga ma za zadanie podważać pierwszą, zmuszając ją do ignorowania cech demograficznych. Ten dynamiczny proces zapewnia, że system uczy się wykrywać prawdziwe oznaki manipulacji, zamiast nieumyślnie polegać na wzorcach demograficznych.
Trening modelu objął globalnie reprezentatywny zestaw danych i uwzględniał scenariusze oszustw płatniczych z rzeczywistego świata, co ma zagwarantować jego skuteczność na dużą skalę. Dr Tianyi Zhang, dyrektor generalny ds. zarządzania ryzykiem i cyberbezpieczeństwa w Ant International, podkreśla: „Uprzedzony system AI jest z natury niebezpieczny. Sprawiedliwość naszego modelu to nie tylko kwestia etyki; jest fundamentalna dla zapobiegania wykorzystywaniu deepfake’ów i zapewnienia wiarygodnej weryfikacji tożsamości dla każdego użytkownika”.
Technologia stojąca za zwycięskim rozwiązaniem jest już integrowana z usługami płatniczymi i finansowymi Ant International, pomagając w zwalczaniu zagrożenia związanego z deepfake’ami. Firma deklaruje, że technologia ta osiąga wskaźnik wykrywalności przekraczający 99,8% we wszystkich demografiach i na 200 rynkach, na których działa Ant.
Rozwiązanie Ant International jest kluczowe dla spełniania globalnych standardów Elektronicznego Poznania Swojego Klienta (eKYC – Electronic Know Your Customer), zwłaszcza podczas onboarding’u klienta, bez algorytmicznego uprzedzenia. Jest to szczególnie ważne na rynkach wschodzących, gdzie uprzedzenia algorytmiczne mogą utrudniać integrację finansową.
Ant International, obsługujący ponad 150 milionów sprzedawców i 1,8 miliarda kont użytkowników za pośrednictwem usług takich jak Alipay+, Antom, Bettr i WorldFirst, konsekwentnie podkreśla, że bezpieczeństwo AI jest filarem jego działalności. Framework AI SHIELD, zbudowany na AI Security Docker, stanowi kompleksowe narzędzie do zarządzania ryzykiem, łagodzące podatności w usługach AI, takie jak nieautoryzowany dostęp i wycieki danych.
AI SHIELD wspiera pakiet rozwiązań do zarządzania ryzykiem, który zapewnia szerszą ochronę transakcji finansowych, w tym środki przeciwko atakom deepfake i oszustwom. Przykładem jest Alipay+ EasySafePay 360, który według firmy zredukował incydenty przejęcia konta w płatnościach cyfrowymi portfelami o 90%.
