Ongecontroleerd ChatGPT-onderzoek van een partner van Butler Snow leidt tot verzonnen citaten en diskwalificatie van drie advocaten

Het probleem

Advocaten die een processtuk ondertekenen, verklaren dat het recht dat ze aanhalen echt is en zegt wat zij beweren. Butler Snow verdedigde de voormalige commissaris van het gevangeniswezen van Alabama in een zaak van een gedetineerde. In mei 2025 wees de kant van de gedetineerde erop dat twee van de verzoeken citaten bevatten die verzonnen leken.

Wat ze bouwden

Butler Snow bouwde hiervoor geen systeem. Een partner, Matthew Reeves, gebruikte op eigen initiatief ChatGPT om jurisprudentie bij twee argumenten te vinden. Het kantoor had zijn advocaten in juni 2023 gewaarschuwd voor de risico's van grote taalmodellen en vereiste schriftelijke toestemming van een leider van een praktijkgroep om zulke tools voor onderzoek te gebruiken. In januari 2025 had het zijn advocaten een andere, goedgekeurde tool gegeven, CoCounsel van Westlaw.

Hoe ze het aanpakten

De heer Reeves vertelde de rechtbank dat hij in ChatGPT zocht naar ondersteunende zaken, ze niet controleerde in Westlaw of het rechtbanksysteem voordat hij ze invoegde, en daarmee het beleid van het kantoor schond. Andere advocaten ondertekenden en dienden de verzoeken in. In totaal telde de rechtbank vijf problematische citaten. Sommige verwezen naar zaken die niet bestaan, andere naar echte maar niet relevante zaken.

Wat er misging

De rechter kon de zaken niet vinden en beval de advocaten en het kantoor op 16 mei 2025 zich te verantwoorden. Het kantoor bood zijn excuses aan, noemde de fout onvergeeflijk, schakelde Morgan Lewis in om zijn andere stukken te controleren en beloofde nieuwe training en een citatiecontrole voor indiening. Morgan Lewis beoordeelde volgens de beslissing met 28 advocaten meer dan 2.400 afzonderlijke juridische citaten in 330 stukken en vond geen andere verzonnen citaten.

Resultaten

Op 23 juli 2025 gaf de rechter de heer Reeves, William Cranford en William Lunsford publiekelijk een berisping, sloot hen uit van de zaak, beval de publicatie van de beslissing en meldde de zaak bij de balie van Alabama. Ze zei dat de berispingen en kleine boetes die in zulke zaken gebruikelijk zijn, niet genoeg waren geweest om dit gedrag te ontmoedigen. Onder verwijzing naar het onafhankelijke onderzoek schorste ze hen niet in de uitoefening van hun beroep, en liet ze het kantoor en twee andere advocaten zonder sanctie gaan.