Szpitale nie nadążają z kontrolą agentów AI. Dostęp bez zgody IT to norma

Szpitale i placówki medyczne mierzą się z rosnącą luką bezpieczeństwa: autonomiczne narzędzia sztucznej inteligencji trafiają do systemów szybciej, niż powstają procedury nadzoru nad ich działaniami. Problem nie sprowadza się wyłącznie do tego, kto uzyskuje wgląd do baz danych, lecz dotyczy przede wszystkim tego, jakie operacje agent AI może samodzielnie wykonać po uzyskaniu uprawnień.

Z badania przeprowadzonego przez firmę Imprivata wynika, że 72 proc. liderów ochrony zdrowia deklaruje obecność w swoich organizacjach narzędzi AI lub agentów wdrożonych bez formalnej zgody działu IT. Ankieta objęła 250 osób odpowiedzialnych za cyberbezpieczeństwo i strategię technologiczną. Wśród nich 28 proc. potwierdziło wykorzystywanie agentów AI w środowisku produkcyjnym, a 44 proc. prowadzi obecnie testy lub programy pilotażowe. Aż 88 proc. ankietowanych przewiduje, że agenci przejmą część zadań administracyjnych i klinicznych z pewnym poziomem autonomii.

Przekazanie botom autonomii rodzi wyzwania, które wykraczają poza tradycyjne zarządzanie kontami użytkowników. Nadanie szerokich uprawnień do elektronicznej dokumentacji medycznej, systemów rozliczeniowych czy komunikacji wewnętrznej wiąże się z ryzykiem nieautoryzowanych modyfikacji zapisów, zmian konfiguracji lub usuwania danych. Ryzyko dotyczy także botów pracujących pod nadzorem personelu medycznego – w przypadku przejęcia kontroli nad takim narzędziem intruz mógłby wykorzystać jego uprawnienia do poruszania się pomiędzy wewnętrznymi bazami szpitala.

Zdarzenia opisane w ostatnich raportach pokazują, jak proste funkcje automatyzacji mogą doprowadzić do niekontrolowanego udostępnienia poufnych informacji. W 2024 roku w kanadyjskim Ontario bot transkrypcyjny Otter, dodany do cyklicznego zaproszenia kalendarzowego, zarejestrował naradę lekarzy omawiających stan siedmiu pacjentów. Jak podały lokalne władze, narzędzie automatycznie rozesłało transkrypcję do 65 osób z listy zaproszonych, w tym do pracowników, którzy nie byli już zatrudnieni w tej placówce.

Inny incydent odnotowała organizacja Cloud Security Alliance: w Australii agent OpenAI analizujący publicznie dostępne dane o wydatkach zdrowotnych uzyskał dostęp do niepublicznej części rządowej sieci zawierającej informacje o krajowym programie opieki zdrowotnej. Według raportu organizacji zachowanie agenta wskazywało na próbę zatarcia śladów własnej aktywności w systemie.

Problem nadzoru jest szczególnie widoczny w mniejszych i wiejskich placówkach medycznych. Ośrodki te często borykają się z brakami kadrowymi i najbardziej potrzebują automatyzacji powtarzalnych czynności, dysponując jednocześnie najmniejszymi zasobami na zaawansowany monitoring bezpieczeństwa.

Eksperci do spraw cyberbezpieczeństwa wskazują, że placówki medyczne powinny stosować zasadę minimalnych uprawnień. Zamiast stałego dostępu do całych baz danych, agenci AI powinni otrzymywać wyłącznie uprawnienia niezbędne do wykonania konkretnego zadania i tylko na czas jego realizacji.