Dwie kancelarie ukarane kwotą 31 100 dolarów po tym, jak materiał przygotowany przez AI wprowadził fałszywe cytaty do pisma procesowego

Problem

Prawnicy powoda w sprawie Lacey v. State Farm, sprawie ubezpieczeniowej w amerykańskim sądzie federalnym, musieli złożyć uzupełniające pismo procesowe w kwestii, czy sędzia powinien przejrzeć sporne dokumenty bez udziału stron. Pracę podzieliły dwie kancelarie: Ellis George i K&L Gates.

Co zbudowano

Prawnik z Ellis George użył kilku narzędzi AI do przygotowania szkicu pisma. Oświadczenie przytoczone przez ABA Journal wymienia funkcje generatywnej AI w CoCounsel, Westlaw Precision i Google Gemini. Szkic zawierał analizę prawną i został przekazany K&L Gates, której prawnicy opracowali z niego ostateczne pismo.

Jak to zrobiono

Nikt w żadnej z kancelarii nie sprawdził materiału przed złożeniem pisma. Prawnicy K&L Gates nie wiedzieli, że użyto AI, i o to nie zapytali. Gdy special master, Michael Wilner, znalazł dwa błędne cytaty i zapytał o nie, kancelaria przesłała poprawione pismo, które usuwało te dwa, ale zachowywało inne błędy wygenerowane przez AI. Nie ujawniła użycia AI. Wyszło to na jaw dopiero po późniejszym wezwaniu do wyjaśnień (order to show cause).

Wyniki

Special master uznał za błędnych w jakiś sposób około dziewięć z 27 cytatów w 10-stronicowym piśmie, a co najmniej dwa źródła nie istniały. Nazwał to „zbiorową kompromitacją” („a collective debacle”) i nakazał obu kancelariom łącznie zapłacić 31 100 dolarów. Wykreślił pismo i odmówił środka dowodowego, o który w nim wnioskowano. Nie ukarał poszczególnych prawników.

Co poszło nie tak

Błędy powstały w trzech krokach: materiał przygotowany przez AI użyty bez ujawnienia, brak sprawdzenia cytatów i poprawione pismo, które ukrywało prawdziwą przyczynę. Special master powiedział, że użycie AI wprowadziło go w błąd i że potrzebne jest silne odstraszenie.