Przetłumaczono z angielskiego oryginału. Liczby i źródła pozostają bez zmian. Przeczytaj angielski oryginał
Butler Snow
Niesprawdzone wyniki z ChatGPT od wspólnika Butler Snow prowadzą do fałszywych cytowań i wykluczenia trzech prawników
W maju 2025 roku dwa pisma złożone przez Butler Snow, amerykańską kancelarię prawną, zawierały pięć cytowań, które wspólnik uzyskał z ChatGPT i nie zweryfikował. W lipcu 2025 roku sędzia federalna udzieliła nagany trzem jej prawnikom i wykluczyła ich ze sprawy, skierowała sprawę do stanowej izby adwokackiej, a samą kancelarię zwolniła od sankcji.
Kluczowe liczby
Przepisane dokładnie ze źródeł. Skopiuj każdą liczbę wraz z przypisem.
pięć
Problematyczne cytowania znalezione w dwóch wnioskach złożonych w maju 2025 roku1
ponad 2 400 odrębnych cytowań prawnych w 330 pismach
Cytowania sprawdzone w niezależnym przeglądzie zleconym przez Butler Snow, obejmującym jej inne pisma w tych samych sądach1
Ile to kosztowało
Koszt, wielkość zespołu i harmonogram nie zostały ujawnione w źródłach.
Problem
Prawnicy podpisujący pismo procesowe poświadczają, że prawo, które powołują, jest prawdziwe i mówi to, co twierdzą. Butler Snow broniło byłego komisarza Departamentu Więziennictwa stanu Alabama w pozwie więźnia. W maju 2025 roku strona więźnia wskazała, że dwa wnioski zawierają cytowania, które wyglądały na zmyślone.
Co zbudowano
Butler Snow nie zbudowało do tego żadnego systemu. Wspólnik Matthew Reeves użył ChatGPT na własną rękę, aby znaleźć orzecznictwo wspierające dwa argumenty. Kancelaria ostrzegła swoich prawników przed ryzykiem związanym z dużymi modelami językowymi w czerwcu 2023 roku i wymagała pisemnej zgody kierownika grupy praktyki na użycie takich narzędzi w badaniach. W styczniu 2025 roku dała prawnikom inne, zatwierdzone narzędzie, Westlaw CoCounsel.
Jak to zrobiono
Pan Reeves powiedział sądowi, że szukał w ChatGPT spraw wspierających, nie sprawdził ich w Westlaw ani w systemie sądowym przed wstawieniem i naruszył politykę kancelarii. Inni prawnicy podpisali i złożyli wnioski. W sumie sąd naliczył pięć problematycznych cytowań. Niektóre dotyczyły spraw, które nie istnieją, inne wskazywały prawdziwe, lecz niezwiązane z tematem sprawy.
Co poszło nie tak
Sędzia nie mogła znaleźć tych spraw i 16 maja 2025 roku nakazała prawnikom i kancelarii złożenie wyjaśnień. Kancelaria przeprosiła, nazwała uchybienie niewybaczalnym, zleciła firmie Morgan Lewis sprawdzenie swoich innych pism i obiecała nowe szkolenia oraz kontrolę cytowań przed złożeniem pisma. Według postanowienia Morgan Lewis, korzystając z 28 prawników, przejrzała ponad 2 400 odrębnych cytowań prawnych w 330 pismach i nie znalazła innych zmyślonych.
Wyniki
23 lipca 2025 roku sędzia publicznie udzieliła nagany panu Reevesowi, Williamowi Cranfordowi i Williamowi Lunsfordowi, wykluczyła ich ze sprawy, nakazała opublikowanie postanowienia i skierowała sprawę do Izby Adwokackiej stanu Alabama. Powiedziała, że nagany i niewielkie grzywny, zwykłe w takich sprawach, nie wystarczyły, by odstraszyć od takiego zachowania. Powołując się na niezależny przegląd, nie zawiesiła ich w wykonywaniu zawodu, a kancelarię i dwóch innych prawników zwolniła od sankcji.
Wnioski dla Twojego projektu
Pisemna polityka dotycząca AI nie jest kontrolą. Wspólnik wiedział, że kancelaria wymaga pisemnej zgody na użycie ChatGPT w badaniach, i jej nie przestrzegał. Warto łączyć politykę z blokadami technicznymi i zatwierdzonymi narzędziami.
Obarczcie odpowiedzialnością każdego podpisującego. Sąd ukarał wszystkich trzech prawników wskazanych na pismach, choć cytowania dostarczył jeden wspólnik, ponieważ podpis poświadcza, że prawo sprawdzono.
Weryfikujcie każde cytowanie w wiarygodnej bazie danych przed złożeniem pisma, niezależnie od tego, kto je dodał i jakie narzędzie je wytworzyło.
Badajcie sprawę szerzej niż pojedynczy incydent. Kancelaria zleciła zewnętrznej firmie ponowne sprawdzenie swoich innych pism. Sędzia wskazała ten przegląd jako powód, by nie zawieszać trzech prawników, i zwolniła kancelarię, bo nie stwierdziła u niej złej wiary ani lekkomyślności.
Zaplanujcie skutki dla klienta. Wykluczenie usunęło prawników kancelarii z toczącej się sprawy, a sąd nakazał też trzem prawnikom przekazanie kopii swojego postanowienia klientom we wszystkich ich toczących się sprawach.
Zastrzeżenia
- ChatGPT nie był zatwierdzonym wdrożeniem w kancelarii. Akta pokazują, że wspólnik użył go wbrew polityce kancelarii, podczas gdy kancelaria zatwierdziła w styczniu 2025 roku inne narzędzie, Westlaw CoCounsel. Ten wpis opisuje incydent i reakcję kancelarii, a nie autoryzowane wdrożenie.
- Nie podano wersji modelu. Źródła wymieniają tylko ChatGPT.
- Podana data wdrożenia to data pierwszego problematycznego pisma. Wspólnik powiedział sądowi, że od około marca 2024 roku w ograniczonym zakresie korzystał z różnych produktów AI.
- Sankcje to ustalenia sądu. ABA Journal relacjonuje własną wypowiedź kancelarii o niewybaczalnym uchybieniu oraz zapowiedź nowych szkoleń i protokołów.
- Kancelaria oświadczyła, że stan Alabama nie poniesie żadnych kosztów związanych z błędami ani ich naprawą.
Źródła
- Sanctions Order, Johnson v. Dunn, No. 2:21-cv-1701-AMM (N.D. Ala.), Doc. 204
United States District Court for the Northern District of Alabama (via CourtListener) · 2025-07-23 · Dokument urzędowy · storage.courtlistener.com
- AI-hallucinated cases end up in more court filings, and Butler Snow issues apology for 'inexcusable' lapse
ABA Journal · 2025-05-27 · Wiadomości · abajournal.com
Streszczone własnymi słowami na podstawie powyższych źródeł. Zauważyłeś błąd? Zobacz sprostowania.