Prawnicy ofiarami halucynacji Claude’a. Kolejny przypadek sfabrykowanych cytatów w procesie federalnym

Sztuczna inteligencja po raz kolejny wystawiła na próbę powagę amerykańskiego wymiaru sprawiedliwości. W głośnej sprawie dotyczącej zwolnień w administracji Donalda Trumpa, prawnicy reprezentujący byłego urzędnika Departamentu Bezpieczeństwa Krajowego zostali zmuszeni do złożenia oficjalnych przeprosin. Powód? Przedłożone przez nich pismo procesowe zawierało tzn. „cytaty widma” – autentycznie brzmiące, lecz całkowicie zmyślone fragmenty uzasadnień prawnych wygenerowane przez model Claude od firmy Anthropic.

To krytyczny moment dla branży, bo halucynacje AI przestały być ciekawostką z forów technologicznych, a stały się realnym zagrożeniem proceduralnym. Rejestry bazy Hallucinations in Courts wskazują na dziesiątki podobnych incydentów na kilku kontynentach. Sądy zaczynają tracić cierpliwość, nakładając kary finansowe i formułując surowe wytyczne dla całych kancelarii, co drastycznie podnosi poprzeczkę odpowiedzialności zawodowej za używanie modeli językowych.

Presja czasu i błąd nadzoru

Jason Greaves, partner nadzorujący sprawę, przyznał w piątkowym oświadczeniu, że sięgnął po platformę Claude Console, próbując przyspieszyć prace nad wnioskiem pod presją napiętych terminów. Choć Greaves twierdzi, że poinstruował współpracownicę o konieczności skrupulatnej weryfikacji materiału przygotowanego przez AI, mechanizmy kontrolne zawiodły. Mimo rzekomego sprawdzenia źródeł, do sądu trafił dokument oparty na nieistniejących precedensach.

„Jako partner podpisujący pismo biorę na siebie pełną odpowiedzialność za te niedokładności. Moje zachowanie było niewybaczalnym błędem” – napisał Greaves w deklaracji skierowanej do sądu. Incydent ten obciąża nie tylko wizerunek samej kancelarii, ale również rzuca cień na procesy związane ze sporami wokół redukcji etatów w agencji FEMA.

Sztuczna inteligencja to nie prawnik

Sprawa ta uwypukla narastający problem w branży prawniczej: nadmierną ufność pokładaną w narzędzia LLM (Large Language Models), które mimo wysokiej sprawności językowej, nie posiadają zrozumienia faktów ani dostępu do zweryfikowanych baz prawnych w czasie rzeczywistym. Nawet profesjonalne platformy klasy korporacyjnej są podatne na generowanie treści całkowicie zmyślonych. Sędziowie coraz częściej reagują na to portfelem – szacuje się, że łączna kwota kar nałożonych za halucynacje AI na świecie sięgnęła już kwoty 110 tysięcy dolarów.

To nie pierwszy taki przypadek — rygorystyczne podejście prezentują też sądy w Europie. Sędzia Victoria Sharp z londyńskiego High Court wprost wskazała na systemowy charakter problemu: „Kierownictwo branży prawniczej – szefowie izb adwokackich, partnerzy zarządzający kancelarii – muszą podjąć praktyczne i skuteczne środki, które zapewnią, że każdy prawnik korzystający ze sztucznej inteligencji rozumie swoje obowiązki zawodowe i etyczne”.

Wpadki nie omijają gigantów. W 2025 roku elitarna kancelaria Latham & Watkins musiała publicznie przepraszać za użycie modelu Claude w podobnych okolicznościach. Systematyczne pojawianie się sfabrykowanych cytatów w dokumentach sugeruje, że środowisko prawnicze wciąż nie wypracowało skutecznych barier ochronnych. Na koniec dnia to zawsze człowiek ponosi konsekwencje — jeden z amerykańskich prawników musiał zapłacić 2,5 tys. dol. grzywny za wiarę w nieistniejące orzecznictwo.