KRiBSI przyjmuje skargi na algorytmy. Komisja może nakazać wycofanie systemu AI

Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI) zaczęła przyjmować skargi na działanie algorytmów. Jak opisuje Wprost, ustawa o systemach sztucznej inteligencji obowiązuje od 11 sierpnia 2026 roku, ale możliwość składania skarg ruszyła dopiero 28 października. Jak podaje Nowosci.ai, wraz z możliwością składania skarg weszły w życie przepisy o kontrolach i karach administracyjnych.

KRiBSI jest krajowym organem nadzoru rynku AI i ma egzekwować przepisy unijnego AI Actu. Kontrole może prowadzić zarówno w firmach, jak i w instytucjach publicznych, a za naruszenia nakładać kary. Komisja rozpatruje też skargi, w tym indywidualne. Mogą one dotyczyć na przykład zagrożenia dla bezpieczeństwa albo błędnej decyzji podjętej przez system AI.

Nakaz wycofania z rynku

Jeśli komisja uzna, że system stwarza bezpośrednie ryzyko dla życia, zdrowia, bezpieczeństwa lub praw podstawowych, może nakazać operatorowi zaprzestanie jego stosowania albo wycofanie go z rynku lub użytkowania.

W pierwszej kolejności KRiBSI chce zająć się systemami zakazanymi. Chodzi o:

• systemy oceniające emocje w miejscu pracy,
• systemy generujące lub zmieniające intymne wizerunki osób bez ich zgody,
• materiały przedstawiające seksualne wykorzystywanie małoletnich.

Zakaz śledzenia emocji w pracy był jednym z głównych wątków ustawy, o czym pisaliśmy w lipcu. Wcześniej, w maju, informowaliśmy o sfinalizowaniu prac sejmowej komisji cyfryzacji nad projektem.

Interpretacja za 150 zł

Komisja oferuje też interpretacje przepisów. Za opłatą 150 zł można wystąpić o opinię indywidualną w konkretnej sytuacji. Na jej wydanie urząd ma co do zasady 30 dni. Według Wprost, jeśli nie odpowie w tym terminie, obowiązujący staje się stan przedstawiony we wniosku. Dla firm wdrażających AI to potencjalnie wygodne narzędzie. Zarazem urząd, który nie zdąży z odpowiedzią, może w praktyce zaakceptować cudzą interpretację przepisów.

Kto stoi na czele

Komisją kieruje Pamela Krzypkowska, wybrana na pięcioletnią kadencję. Krzypkowska jest współautorką Polityki Rozwoju Sztucznej Inteligencji w Polsce. Kilka lat pracowała w Microsofcie jako Cloud Solution Architect, a później była dyrektorką Departamentu Badań i Innowacji w Ministerstwie Cyfryzacji. Według gov.pl odpowiadała tam m.in. za krajową politykę AI, program PLLuM, wdrożenia AI w usługach publicznych i infrastrukturę obliczeniową.

Jako cel stawia sobie równowagę między innowacjami a ochroną obywateli. Podczas przesłuchania w Senacie mówiła: „Nie jest to, moim zdaniem, gra o sumie zerowej. Nie musimy oddać innowacji kosztem bezpieczeństwa, musimy po prostu znaleźć metody i sposoby, które dają bezpieczeństwo i obywatelom, i firmom, które wdrażają rozwiązania sztucznej inteligencji”.

Ta równowaga wynika też z zakresu zadań komisji. Według omówienia ustawy w bazie IRIS Europejskiego Obserwatorium Audiowizualnego komisja ma także wspierać piaskownice regulacyjne, edukację oraz badania i innowacje, a jej obsługę administracyjną zapewnia Ministerstwo Cyfryzacji. Pierwsze rozstrzygnięcia pokażą, czy nacisk położy na karanie, czy na doradzanie.