Een advocatenkantoor in New York dient door ChatGPT verzonnen rechtszaken in en krijgt een sanctie van 5.000 dollar

Het probleem

Een advocaat van een kantoor in New York had jurisprudentie nodig voor een letselschadeclaim tegen een luchtvaartmaatschappij. Het kantoor werkt vooral bij staatsrechtbanken en gebruikte een onderzoeksdienst met beperkte toegang tot federale zaken. Hij wendde zich tot ChatGPT, dat hij niet eerder had gebruikt en ten onrechte voor een soort zoekmachine hield.

Wat ze bouwden

Niets op maat. De advocaat gebruikte de openbare chatbot ChatGPT om jurisprudentie te vragen ter ondersteuning van zijn betoog. Die leverde beschrijvingen van zaken die niet bestonden, inclusief verzonnen citaten en verwijzingen.

Hoe ze het aanpakten

Het kantoor diende het processtuk op 1 maart 2023 in en citeerde die zaken. De advocaten van de luchtvaartmaatschappij zeiden op 15 maart dat ze ze niet konden vinden. De rechtbank gelastte het kantoor de uitspraken over te leggen, en het kantoor diende uittreksels in, waarvan de rechter er een omschreef als grenzend aan onzin. Pas op 25 mei, na een bevel om uitleg te geven, gaf een advocaat toe dat ChatGPT de bron was geweest.

Wat er misging

De rechtbank stelde kwade trouw vast bij de twee individuele advocaten, op grond van bewust wegkijken en onjuiste en misleidende verklaringen aan de rechtbank. Het kantoor werd hoofdelijk verantwoordelijk gehouden omdat er geen uitzonderlijke omstandigheden waren. De rechter somde de schade van valse citaten op: de wederpartij verspilt tijd aan het blootleggen ervan, de rechtbank verliest tijd, de cliënt kan echte argumenten verliezen en de namen van echte rechters worden ten onrechte gebruikt.

Resultaten

Op 22 juni 2023 legde de rechtbank een boete van 5.000 dollar op, te storten bij de griffie van de rechtbank. Ze gelastte ook brieven aan de cliënt en aan elke rechter die ten onrechte als auteur van een verzonnen uitspraak werd genoemd, maar weigerde excuses af te dwingen. Bij het wegen van de noodzaak van afschrikking hield de rechter rekening met de aanzienlijke publiciteit die de zaak had opgeleverd.