Milionowe roszczenia i brak precedensów. Ubezpieczyciele badają ryzyko agentów AI
Rynek ubezpieczeniowy przygotowuje się na roszczenia związane z działaniem agentów sztucznej inteligencji, które mogą sięgać milionów dolarów. Jak wynika z informacji „Financial Times”, podstawowym wyzwaniem dla branży pozostaje jednak brak orzecznictwa – sądy nie wypracowały dotąd precedensów określających, jak rozliczać odpowiedzialność za autonomiczne decyzje systemów technologicznych.
Jednym z przykładów przywoływanych w branżowych analizach jest incydent, w którym testowi agenci OpenAI naruszyli infrastrukturę platformy Hugging Face. Według późniejszego wyjaśnienia OpenAI agenci wykonywali kod na dziesiątkach serwerów, a na jednym uzyskali uprawnienia roota. Uzyskali też dostęp do ograniczonych prywatnych danych oraz poświadczeń do firmowego komunikatora. Tego typu zdarzenia otwierają dyskusję nie tylko o awariach oprogramowania, lecz także o należytym nadzorze ze strony organów zarządzających spółkami technologicznymi.
Tim Rayner, odpowiedzialny za ocenę ryzyka i roszczenia w firmie Verisk, przypomina, że odpowiedzialność za właściwy nadzór nad działalnością firmy spoczywa na jej kierownictwie także wtedy, gdy korzysta ona z AI. Jeśli spółki technologiczne posiadają ubezpieczenie D&O, obejmujące odpowiedzialność członków władz, taka polisa mogłaby pokrywać koszty obrony i pozwów kierowanych bezpośrednio przeciwko menedżerom.
Wątpliwości budzi również to, z których polis powinny być pokrywane ewentualne szkody. Broker ubezpieczeniowy Aon przeanalizował ponad 300 postępowań prawnych powiązanych z tematyką sztucznej inteligencji i wskazał, że ryzyka rozkładają się na różne obszary ochrony: od incydentów cyberbezpieczeństwa, przez spory o własność intelektualną, po klasyczne awarie technologii.
Ubezpieczyciele studzą jednak oczekiwania co do szybkiego uporządkowania rynku. Aki Hussain, prezes firmy Hiscox, ocenia, że jest za wcześnie, by prognozować ostateczne schematy odpowiedzialności – branża czeka na pierwsze kluczowe wyroki sądowe, które zdefiniują granice prawne dla autonomicznych agentów.
