Halucynacje przed sądem, czyli AI i pełnomocnicy

Przybywa wyroków wobec prawników, którzy powoływali się w sądzie na nieistniejące orzeczenia podsunięte im przez narzędzia oparte na sztucznej inteligencji. Na razie jeszcze nie w Polsce

Orzecznictwo dotyczące prawników, którzy przedstawiali w sądzie fałszywe argumenty podsunięte przez AI, wzbogacił niedawno wyrok Sądu Najwyższego (High Court) Wielkiej Brytanii. Czytamy w nim, że kierownictwo branży prawniczej – szefowie izb adwokackich, partnerzy zarządzający kancelarii – oraz osoby odpowiedzialne za regulację świadczenia usług prawnych „muszą podjąć praktyczne i skuteczne środki”, które zapewnią, że każdy prawnik korzystający ze sztucznej inteligencji rozumie swoje obowiązki zawodowe i etyczne oraz obowiązki wobec sądu i je wypełnia. Sąd zapowiedział też, że w przyszłości podczas podobnych rozpraw „przedstawiciele branży mogą oczekiwać, że sąd zbada, czy te obowiązki kierownicze zostały wypełnione”.

Wyrok (sprawy AC-2024-LON-003062 i CL-2024-000435) dotyczył powoływania się przez prawników w dwóch postępowaniach toczących się przed brytyjskimi sądami na fałszywe cytaty z orzecznictwa lub nieistniejące autorytety. Wynikało to z faktycznego lub domniemanego wykorzystania przez prawników narzędzi generatywnej sztucznej inteligencji i braku weryfikacji tak powstałych doku mentów.

„Fakty w tych sprawach budzą obawy co do kompetencji i postępowania prawników skierowanych do tego sądu” – stwierdziła w uzasadnieniu wyroku sędzia Victoria Sharp. Dodała, że powstają też obawy „co do adekwatności szkoleń, nadzoru i regulacji osób praktykujących przed sądami”. Podkreśliła, że niewłaściwe używanie sztucznej inteligencji pociąga za sobą „poważne konsekwencje dla wymiaru sprawiedliwości” i publicznego zaufania do niego.

Dowody od klienta – laika

W jednej z rozpatrywanych w Wielkiej Brytanii spraw – procesie o odszkodowanie, w którym stawką było przeszło 89 mln funtów – sąd zaniepokoiło 45 przedstawionych mu cytatów. Przytaczana w 18 z nich sprawa w ogóle nie istniała. Pozostałe orzeczenia albo nie zawierały przypisywanych im cytatów, albo te nie popierały tez, do których zostały wykorzystane. Jak podsumował materiały powodów asystent sędziego, „zdecydowana większość autorytetów została zmyślona lub źle zrozumiana”.