Czy twoje rozmowy z chatbotem mogą zostać użyte przeciwko tobie w sądzie?

Wraz z ekspansją sztucznej inteligencji, coraz więcej osób korzysta z chatbotów do różnych celów – od szukania informacji po poradnictwo życiowe. Rodzi to pytanie: czy zapisy tych rozmów mogą posłużyć jako dowód w sądzie?

Mark Esposito, profesor strategii biznesowej i ekspert ds. zarządzania AI z D’Amore-McKim School of Business, uważa, że teoretycznie jest to możliwe, ale praktyczna realizacja tego scenariusza jest jeszcze odległa. „Sądy opierają się na transparentności, wytłumaczalności i sprawiedliwości, a to są właśnie obszary, w których chatboty AI wciąż mają problemy” – zaznacza Esposito.

Jednym z kluczowych problemów jest sposób gromadzenia i zarządzania danymi przez firmy AI. Interakcje z chatbotami są trwale zapisywane na serwerach, co stwarza potencjalne problemy w procesie dowodowym. „Każda wymiana zdań jest rejestrowana i przechowywana, co rodzi kwestie dostępu do danych (strona przeciwna może zażądać dostępu do wszystkiego, nawet nieistotnych fragmentów) i komplikuje sposób traktowania tych zapisów przez sądy jako dowodów” – tłumaczy ekspert.

Odpowiedzialność to kolejna paląca kwestia. Kto ponosi odpowiedzialność, jeśli chatbot wygeneruje błędną argumentację lub szkodliwą rekomendację? Użytkownik, twórca modelu, a może sam system? „Sądy potrzebują jasnej identyfikacji i możliwości audytu, ale większość modeli to wciąż czarne skrzynki” – dodaje profesor Esposito, co w sposób istotny utrudnia śledztwo w tego typu sprawach.

Nie bez znaczenia są również przepisy o ochronie danych. Chatboty mają tendencję do gromadzenia nadmiernej ilości informacji w porównaniu z tym, co jest prawnie uzasadnione. Może to prowadzić do naruszeń prywatności i konfliktów z regulacjami.

Mimo tych wyzwań, Esposito nie wyklucza, że chatboty mogą w przyszłości odgrywać większą rolę w salach sądowych. Prowadzone są badania i tworzone specjalne kliniki prawne, które testują różne scenariusze wykorzystania tych technologii. „To są pilotażowe projekty w formie prawnej, testujące hipotezy prowadzące do konkretnych zachowań” – wyjaśnia.

Obecnie, naukowcy zajmujący się AI koncentrują się przede wszystkim na kwestiach prywatności, własności danych i nadzoru. „Konsekwencje prawne tych zagadnień to już tylko krok dalej. Dostrzegliśmy to w ciągu ostatnich czterech lat za kadencji administracji Bidena. Teraz skupiamy się na pytaniu: gdzie są dane i jak są wykorzystywane? To tam ostatecznie należy ustalić zasady odpowiedzialności” – podsumowuje Esposito.