Cyfrowa inwigilacja uczuć. Czy AI w pracy to nowa era biometrycznej opresji?

Fasada obiektywności kontra rzeczywistość

Wyobraźmy sobie spotkanie z przełożonym, podczas którego algorytm w czasie rzeczywistym analizuje każdy grymas naszej twarzy, ton głosu i częstotliwość mrugania. To nie wizja z serialu „Black Mirror”, ale rzeczywistość opisywana przez Ellen Cushing na łamach „The Atlantic”. Testując rozwiązanie firmy MorphCast, autorka dowiedziała się, że podczas rozmowy była „rozbawiona” i „zdeterminowana”, ale też „niecierpliwa”. Choć brzmi to jak niewinna ciekawostka, technologia ta – znana jako „emotion AI” – staje się potężnym narzędziem w rękach pracodawców.

Od gigantów pokroju Burger Kinga, testujących zestawy słuchawkowe oceniające uprzejmość załogi, po producentów mebli, takich jak Framery, montujących biosensory w fotelach biurowych – inwigilacja emocjonalna nie zna granic. Systemy takie jak te oferowane przez Microsoft Azure czy specjalistyczne narzędzia do rekrutacji od Imentiv, obiecują wgląd w to, co dotychczas było prywatne i subiektywne. Problem polega na tym, że obietnica ta opiera się na kruchych podstawach.

Nauka w służbie uprzedzeń

Większość tych systemów bazuje na teorii Paula Ekmana o sześciu podstawowych emocjach, którą świat neurobiologii od lat uważa za nadmierne uproszczenie. Jak zauważa neurobiolożka Lisa Feldman Barrett, mimika nie posiada wrodzonego znaczenia emocjonalnego. Przykładowo, Amerykanie marszczą brwi ze złości jedynie w 35 procentach przypadków. Większość naszych ekspresji ma charakter nastrojowy lub relacyjny, a nie czysto sygnałowy.

Co gorsza, algorytmy dziedziczą ludzkie uprzedzenia. Badania Lauren Rhue wykazały, że systemy rozpoznawania emocji systematycznie oceniają twarze czarnoskórych sportowców jako bardziej agresywne niż ich białych kolegów, nawet jeśli obie grupy się uśmiechają. Wdrożenie takich narzędzi do procesów rekrutacyjnych czy oceny rocznej nie jest więc tylko błędem merytorycznym, ale realnym zagrożeniem dla sprawiedliwości społecznej.

Między inwigilacją a banicją

Skutki uboczne stosowania „wadliwej nauki” są już widoczne. Pracownicy UnitedHealth byli karani za brak aktywności na klawiaturze w momentach, gdy… prowadzili głębokie rozmowy z pacjentami. Z kolei platforma HireVue stała się obiektem skargi ACLU po tym, jak niesłysząca pracownica otrzymała odmowę awansu z sugestią, by „ćwiczyła aktywne słuchanie” – co było absurdalną konkluzją wyciągniętą przez algorytm.

Unia Europejska, dostrzegając te zagrożenia, zdecydowała się na radykalny krok. W ramach AI Act zakazano stosowania systemów rozpoznawania emocji w miejscu pracy, dopuszczając je jedynie w celach medycznych lub bezpieczeństwa. Efekt? Firmy, takie jak MorphCast, przenoszą swoje siedziby do Kalifornii, uciekając przed regulacjami. Mimo kontrowersji globalny rynek „emotion AI” ma szansę potroić swoją wartość do 9 miliardów dolarów do 2030 roku.

Praca nad robotem

Największym zagrożeniem nie jest jednak to, że te systemy nie działają. Prawdziwy dystopijny scenariusz ziści się wtedy, gdy zaczną działać idealnie. W takim świecie pracownik, obok swoich standardowych obowiązków, otrzyma dodatkowy etat: „zarządzanie wrażeniem”. Będzie to nieustanny taniec przed obiektywem, by przekonać algorytm o swoim entuzjazmie, lojalności i optymizmie. W ten sposób AI nie tylko monitoruje naszą pracę, ale zmusza nas do performowania emocji, których wcale nie czujemy, zabijając autentyczność ludzkich relacji w biurze.