Vertaald uit het Engelse origineel. De cijfers en bronnen zijn ongewijzigd. Lees het Engelse origineel
K&L Gates and Ellis George
Twee advocatenkantoren beboet met 31.100 dollar nadat door AI opgesteld onderzoek valse verwijzingen in een processtuk bracht
In Lacey v. State Farm gebruikte een advocaat AI-tools om een processtuk te schetsen dat een tweede kantoor indiende zonder het te controleren. Een door de rechtbank aangestelde special master vond ongeveer negen van de 27 verwijzingen onjuist en gelastte de twee kantoren 31.100 dollar te betalen.
Kerncijfers
Letterlijk overgenomen uit de bronnen. Kopieer elk cijfer met bronvermelding.
Ongeveer negen van de 27
Juridische verwijzingen in het processtuk van 10 pagina's die op de een of andere manier onjuist waren, volgens de special master2
Minstens twee
Aangehaalde bronnen die niet bestaan, volgens de special master2
Wat het kostte
Kosten, teamgrootte en doorlooptijd zijn in de bronnen niet openbaar gemaakt.
Het probleem
De advocaten van de eiser in Lacey v. State Farm, een verzekeringszaak bij een Amerikaanse federale rechtbank, moesten een aanvullend processtuk indienen over de vraag of een rechter betwiste documenten in besloten kring moest beoordelen. Twee kantoren deelden het werk: Ellis George en K&L Gates.
Wat ze bouwden
Een advocaat van Ellis George gebruikte meerdere AI-tools om een schets voor het processtuk te maken. De verklaring die de ABA Journal aanhaalt, noemt generatieve AI-functies in CoCounsel, Westlaw Precision en Google Gemini. De schets bevatte het juridisch onderzoek en ging naar K&L Gates, waarvan de advocaten haar tot het definitieve processtuk uitwerkten.
Hoe ze het aanpakten
Niemand bij een van beide kantoren controleerde het onderzoek voordat het processtuk werd ingediend. De advocaten van K&L Gates wisten niet dat AI was gebruikt en vroegen er niet naar. Toen de special master, Michael Wilner, twee onjuiste verwijzingen vond en erover vroeg, stuurde het kantoor een herzien processtuk dat die twee verwijderde maar andere door AI gemaakte fouten behield. Het maakte het gebruik van AI niet bekend. Dat kwam pas aan het licht na een latere order to show cause.
Resultaten
De special master vond ongeveer negen van de 27 verwijzingen in het processtuk van 10 pagina's op de een of andere manier onjuist, en minstens twee bronnen bestonden niet. Hij noemde het "a collective debacle" (vertaling: "een collectief debacle") en gelastte de twee kantoren gezamenlijk 31.100 dollar te betalen. Hij schrapte het processtuk en wees de verzochte bewijsmaatregel af. De individuele advocaten sanctioneerde hij niet.
Wat er misging
De fouten ontstonden in drie stappen: AI-onderzoek zonder openheid, geen controle van de verwijzingen en een herzien processtuk dat de ware oorzaak verborg. De special master zei dat het gebruik van AI hem had misleid en dat sterke afschrikking nodig was.
Alle gemelde cijfers
| Maatstaf | Cijfer | Bronvermelding |
|---|---|---|
| Totale betaling die de twee advocatenkantoren hoofdelijk is opgelegd | 31.100 dollar2 | |
| Juridische verwijzingen in het processtuk van 10 pagina's die op de een of andere manier onjuist waren, volgens de special master | Ongeveer negen van de 272 | |
| Aangehaalde bronnen die niet bestaan, volgens de special master | Minstens twee2 | |
| Deel van het totaal dat de kosten van de verdediging voor het processtuk dekt | 5.000 dollar2 | |
| Deel van het totaal ter vergoeding aan de verdediging van de kosten van de special master voor het afhandelen van het probleem | 26.100 dollar2 |
Lessen voor uw project
Eis een menselijke controle van elke verwijzing en elk feit vóór indiening. Hier controleerde niemand bij een van beide kantoren het door AI opgestelde onderzoek voordat het de rechtbank bereikte.
Laat medewerkers zeggen wanneer AI is gebruikt. De advocaten van K&L Gates wisten niet dat de schets van AI kwam en vroegen er niet naar.
Behandel een waarschuwing als aanleiding voor een volledige controle. Toen de special master twee onjuiste verwijzingen aanwees, haalde het kantoor die twee weg en liet het de andere fouten staan.
Wijs bij werk dat tussen kantoren of teams wordt gedeeld één eigenaar aan die het hele document controleert voordat het de deur uitgaat.
Kanttekeningen
- Dit is een mislukking. De AI-tools leverden het gebrekkige onderzoek; de sanctie gold het niet controleren ervan en de latere herindiening.
- De bronnen zeggen niet welke van de drie tools (CoCounsel, Westlaw Precision, Google Gemini) welke fouten veroorzaakte, of welke onderliggende modellen ze gebruiken.
- De beschikking kwam van een door de rechtbank aangestelde special master in een federale zaak, niet van een eindoordeel van een rechter. De special master legde de individuele advocaten geen sanctie op.
- De delen van 5.000 en 26.100 dollar staan zo in de beschikkingstekst die Volokh Conspiracy publiceerde. De beschikking verwijst naar het processtuk in beschikkingen van 15 en 20 april 2025, dus april 2025 wordt gebruikt; een nauwkeurigere datum wordt niet gebruikt.
Bronnen
- Sanctions imposed for 'collective debacle' involving AI hallucinations and 2 firms, including K&L Gates
ABA Journal · 2025-05-14 · Nieuws · abajournal.com
- AI Hallucination in Filings Involving 14th-Largest U.S. Law Firm Lead to $31K in Sanctions
The Volokh Conspiracy (Reason) · 2025-05-13 · Nieuws · reason.com
In eigen woorden samengevat op basis van de bovenstaande bronnen. Een fout gezien? Zie correcties.