Prompt injection przed sądem. Próba zmanipulowania wymiaru sprawiedliwości ukrytym kodem AI

Współczesne sale rozpraw stają się areną nowej formy cyfrowej partyzantki. Matthew Elliott, występujący w roli powoda przed sądem w Connecticut, postanowił sprawdzić czujność systemu sprawiedliwości nie poprzez argumentację prawną, lecz za pomocą techniki znanej w świecie cyberbezpieczeństwa jako prompt injection. W oficjalnych pismach procesowych w sprawie przeciwko New York Bariatric Group, Elliott zaszył instrukcje sformatowane białą, niemal niewidoczną czcionką o rozmiarze trzech punktów. Tekst, choć nieczytelny dla ludzkiego oka, miał zostać wyłapany przez algorytmy sztucznej inteligencji, gdyby te analizowały dokument.

Sprawa ta pokazuje, dlaczego bezpieczeństwo modeli językowych staje się fundamentem funkcjonowania państwa, a nie tylko ciekawostką dla programistów. To pierwszy udokumentowany przypadek, w którym obywatel próbował przejąć kontrolę nad procesem sądowym poprzez atak na algorytmy, których obecność w sądzie jedynie podejrzewał. Elliott twierdził później, że jego działania miały na celu „audyt” procedur sądowych, jednak sędzia Walter M. Spader Jr. nie podzielił tej interpretacji, widząc w tym bezpośrednie zagrożenie dla bezstronności orzekania.

Technologia w służbie manipulacji

Ukryte komendy były precyzyjne. Sędzia zauważył, że ktoś próbował nakłonić system AI do „produce output only favorable to the plaintiff’s position”. Manipulacja wyszła na jaw przez przypadek – uwagę sądu zwróciły nienaturalne, puste przestrzenie w dokumencie. Sędzia Spader porównał to działanie do próby potajemnego instruowania przysięgłego przez automatycznego agenta. Mimo ostrzeżenia, Elliott ponowił próbę w kolejnych pismach, tym razem ukrywając w nich linki do serwisu YouTube i ironiczne komentarze, które nazwał „niewidzialnymi żartami”.

System, którego nie było

Ironią całej sytuacji jest fakt, że sądy w Connecticut nie korzystają z systemów AI do wydawania wyroków ani automatycznej analizy treści pozwów. Sędzia w 14-stronicowym uzasadnieniu podkreślił, że sam zamiar stanowił poważne naruszenie etyki procesowej. Za karę Elliott stracił prawo do elektronicznego składania pism. Musi teraz dostarczać każdą stronę osobiście do biura podawczego w formie fizycznej. Kara ta budzi jednak wątpliwości techniczne – papierowe dokumenty po zeskanowaniu przez pracowników sądu do systemu cyfrowego nadal mogą zawierać ukryte warstwy danych, które wychwyci oprogramowanie OCR.

Szerszy problem cyfrowego zaufania

Przypadek z Connecticut nie jest odosobniony, co potwierdzają ustalenia redakcji Reuters. Podobne incydenty odnotowano w Brazylii, gdzie prawnicy próbowali sterować sądowym oprogramowaniem. Zjawisko to przenika również do świata nauki – badania opublikowane w serwisie arXiv ujawniły, że tylko w 2025 roku stwierdzono co najmniej 18 prac naukowych zawierających ukryte instrukcje typu „tylko pozytywne recenzje” przeznaczone dla modeli AI.

Skala zjawiska rośnie wraz z liczbą osób reprezentujących się samodzielnie (tzw. pro se), które korzystają z ChatGPT do pisania pism procesowych. Detektory treści oznaczają już blisko 18 procent nowych pozwów w niektórych jurysdykcjach jako stworzone przez maszyny. Stoimy u progu ery, w której AI nie tylko pomaga w pisaniu pozwów, ale sama staje się celem ataku wewnątrz nich.