Prawnicy Morgan & Morgan ukarani po tym, jak wewnętrzne narzędzie AI kancelarii zmyśliło powołane sprawy

Problem

Kancelarie prawne nie mogą powoływać spraw, które nie istnieją. Sądy oczekują, że prawnik podpisujący pismo sprawdził zawarte w nim prawo. Morgan & Morgan, duża amerykańska kancelaria reprezentująca powodów, chciała, aby jej prawnicy pracowali szybciej dzięki AI, i zbudowała w tym celu własne narzędzie.

Co zbudowano

MX2.law, które Chief Transformation Officer kancelarii opisał w oświadczeniu złożonym sądowi jako prywatnego asystenta prawnego opartego na AI, uruchomionego 15 listopada 2024 roku. Zbudowano go, aby chronić dane klientów, w tym informacje o zdrowiu, i połączyć z systemem dokumentów kancelarii. Jego funkcje obejmowały streszczanie dokumentów, przeszukiwanie ich i pomoc w redagowaniu tekstu. Kancelaria ostrzegała użytkowników, że odpowiedzi AI mogą być błędne, i wymagała od prawników sprawdzania treści AI przed użyciem, a także zorganizowała webinar, przygotowała pisemne przewodniki i opcjonalne sesje praktyczne.

Jak to zrobiono

W sprawie przeciwko Walmart i Jetson Electric Bikes prawnik Rudwin Ayala przygotował wnioski in limine, czyli wnioski do sądu o to, jakie dowody może usłyszeć ława przysięgłych. Wgrał projekt do MX2.law i poprosił o dodanie orzecznictwa sądów federalnych w Wyoming. Nie sprawdził dodanych spraw. Dwóch innych prawników również podpisało wnioski, nie sprawdzając ich.

Co poszło nie tak

Wnioski, złożone 22 stycznia 2025 roku, powoływały dziewięć spraw, z których osiem nie istniało. Sąd wydał 6 lutego 2025 roku wezwanie do wyjaśnień (order to show cause). Powodowie wycofali wnioski następnego dnia. Prawnicy przyznali potem, że sprawy zmyśliła platforma AI. Sąd uznał, że wszyscy trzej podpisujący naruszyli regułę wymagającą rozsądnego zbadania prawa, wskazał sygnały, że coś jest nie tak (brak numerów stron, nietypowy format cytowania) i stwierdził, że obowiązku sprawdzenia nie można przerzucić na współpracownika.

Wyniki

24 lutego 2025 roku sąd nałożył na pana Ayalę grzywnę 3 000 $ i odsunął go od sprawy. Na każdego z dwóch pozostałych prawników nałożył po 1 000 $. Zdecydował, że nie nakaże kancelariom składania wyjaśnień, powołując się na szkolenia kancelarii i nowe przypomnienie na ekranie, że użytkownicy muszą weryfikować wyniki AI. Sąd nazwał sprawę kolejnym przypomnieniem, by nie polegać ślepo na cytatach z AI.

Co warto powtórzyć

Uczyńcie weryfikację obowiązkowym krokiem i zadbajcie, aby narzędzie przypominało o niej w chwili użycia. Prowadźcie zapisy korzystania z narzędzia, by móc pokazać sądowi dokładnie, co się wydarzyło.