Przereklamowana pewność siebie: Czy zarządy firm faktycznie rozumieją ryzyka związane ze sztuczną inteligencją?

W miarę jak sztuczna inteligencja coraz śmielej wkracza do świata biznesu, pojawia się pytanie o gotowość firm do zarządzania jej potencjalnymi zagrożeniami. Raport EY, zatytułowany Responsible AI Pulse survey, rzuca nowe światło na ten problem, ujawniając znaczące rozbieżności w postrzeganiu ryzyka AI przez kadrę zarządzającą, szczególnie w organizacjach, które już w pełni zintegrowały te rozwiązania.

Jad Shimaly, globalny partner zarządzający ds. obsługi klienta w EY, w rozmowie z Euronews, podkreślił, że wiele firm działa w myśl zasady agile, starając się elastycznie adaptować do zmieniającego się ekosystemu AI. Jednak ta elastyczność nie zawsze idzie w parze z dogłębnym rozumieniem konsekwencji i oczekiwań konsumentów. „Wydaje się istnieć znaczna luka między oczekiwaniami i rozumieniem odpowiedzialnego AI oraz ryzyka AI przez kadrę C-suite, a tym, czego oczekują klienci i konsumenci” – zauważa Shimaly.

Badanie EY wskazuje, że menedżerowie wysokiego szczebla w firmach z rozbudowanymi systemami AI często wykazują „mylne przekonanie o sile swoich praktyk w zakresie odpowiedzialnego AI oraz ich zgodności z obawami konsumentów”. Taka postawa może prowadzić do erozji zaufania klientów i osłabienia przewagi konkurencyjnej, szczególnie w obliczu rosnącej popularności agentowej AI.

Co ciekawe, prezesi (CEO) stanowią wyjątek w tej grupie. Wykazują oni większą świadomość i obawy dotyczące odpowiedzialnego AI, co jest bliższe sentymentowi konsumentów. Tylko jeden na pięciu prezesów wierzy, że ryzyko AI jest w pełni pod kontrolą, podczas gdy aż jedna trzecia pozostałych członków zarządu podziela to przekonanie. Ta różnica w percepcji może wynikać z niższego poziomu świadomości lub postrzegania mniejszej odpowiedzialności po stronie pozostałych dyrektorów.

Shimaly wyraził nadzieję, że rosnąca harmonizacja i precyzowanie globalnych regulacji dotyczących odpowiedzialnego AI przyczyni się do zwiększenia pewności konsumentów, że ryzyka są odpowiednio łagodzone. Pytanie jednak, czy sami liderzy biznesu nadążą za zmieniającymi się standardami i oczekiwaniami.

Raport EY wskazuje również na konkretne obszary, w których występuje rozbieżność między postrzeganiem zarządów a konsumentów. Są to m.in. dezinformacja generowana przez AI, wykorzystywanie AI do manipulacji jednostkami oraz jej wpływ na wrażliwe grupy społeczne. Paradoksalnie, jedynym wspólnym punktem, gdzie obawy obu stron były podobnie niskie, była kwestia utraty miejsc pracy spowodowanych przez AI.

Interesującym wnioskiem badania jest również to, że firmy dopiero wdrażające AI są znacznie lepiej zorientowane na poziom obaw swoich konsumentów niż te, które już w pełni zintegrowały te technologie. Podczas gdy 51% kadry C-suite z firm w fazie integracji uważa, że są dobrze zorientowani, w firmach w pełni zintegrowanych odsetek ten wzrasta do 71%. Może to sugerować, że im głębiej organizacja zanurzy się w świat AI, tym bardziej odrywa się od rzeczywistych obaw swoich klientów, stając się ofiarą własnej „mylnej pewności”.