Nowojorska kancelaria powołuje w sądzie orzeczenia wymyślone przez ChatGPT i dostaje karę 5 000 dolarów

Problem

Prawnik z nowojorskiej kancelarii potrzebował orzecznictwa do pozwu o szkody osobowe przeciwko linii lotniczej. Kancelaria działa głównie w sądach stanowych i korzystała z serwisu researchu z ograniczonym dostępem do spraw federalnych. Sięgnął po ChatGPT, którego wcześniej nie używał i który błędnie uważał za rodzaj wyszukiwarki.

Co zbudowano

Nic na zamówienie. Prawnik użył publicznego chatbota ChatGPT, by poprosić o orzecznictwo wspierające jego argumentację. Ten wygenerował opisy spraw, które nie istniały, wraz z wymyślonymi cytatami i sygnaturami.

Jak to zrobiono

Kancelaria złożyła pismo 1 marca 2023 roku, powołując te sprawy. 15 marca prawnicy linii lotniczej powiedzieli, że nie mogą ich znaleźć. Sąd nakazał kancelarii przedstawić orzeczenia, a ona złożyła fragmenty, z których jeden sędzia określił jako graniczący z bezsensem. Dopiero 25 maja, po wezwaniu do wyjaśnień, jeden z prawników przyznał, że źródłem był ChatGPT.

Co poszło nie tak

Sąd stwierdził złą wiarę obu prawników indywidualnie, opierając się na świadomym unikaniu prawdy oraz fałszywych i wprowadzających w błąd oświadczeniach składanych sądowi. Kancelaria została uznana za odpowiedzialną solidarnie, ponieważ nie zachodziły wyjątkowe okoliczności. Sędzia wymienił szkody wynikające z fałszywych cytowań: druga strona traci czas na ich zdemaskowanie, sąd traci czas, klient może utracić prawdziwe argumenty, a nazwiska prawdziwych sędziów są wykorzystywane bezprawnie.

Wyniki

22 czerwca 2023 roku sąd nałożył karę 5 000 dolarów, płatną do depozytu sądu. Nakazał także wysłanie listów do klienta i do każdego sędziego błędnie wskazanego jako autor fałszywego orzeczenia, ale odmówił wymuszenia przeprosin. Oceniając potrzebę odstraszania, sędzia wziął pod uwagę znaczny rozgłos, jaki sprawa wywołała.