Übersetzt aus dem englischen Original. Zahlen und Quellen sind unverändert. Englisches Original lesen
K&L Gates and Ellis George
Zwei Kanzleien müssen 31.100 Dollar zahlen, nachdem KI-gestützte Recherche falsche Zitate in einen Schriftsatz brachte
In Lacey v. State Farm nutzte ein Anwalt KI-Tools für die Gliederung eines Schriftsatzes, den eine zweite Kanzlei ohne Prüfung einreichte. Ein vom Gericht bestellter Special Master fand etwa neun von 27 Zitaten fehlerhaft und ordnete an, dass die beiden Kanzleien 31.100 Dollar zahlen.
Kennzahlen
Wortgetreu aus den Quellen übernommen. Kopieren Sie jede Zahl mit ihrer Quellenangabe.
Etwa neun der 27
Rechtszitate im 10-seitigen Schriftsatz, die laut Special Master in irgendeiner Weise falsch waren2
Mindestens zwei
Zitierte Quellen, die laut Special Master nicht existieren2
Was es erforderte
Kosten, Teamgröße und Zeitplan wurden in den Quellen nicht veröffentlicht.
Das Problem
Die Anwälte der Klägerseite in Lacey v. State Farm, einem Versicherungsfall vor einem US-Bundesgericht, mussten einen ergänzenden Schriftsatz zu der Frage einreichen, ob ein Richter strittige Dokumente unter Ausschluss der Öffentlichkeit prüfen sollte. Zwei Kanzleien teilten sich die Arbeit: Ellis George und K&L Gates.
Was sie gebaut haben
Ein Anwalt von Ellis George nutzte mehrere KI-Tools, um eine Gliederung für den Schriftsatz zu erstellen. Die vom ABA Journal zitierte Erklärung nennt generative KI-Funktionen in CoCounsel, Westlaw Precision und Google Gemini. Die Gliederung enthielt die Rechtsrecherche und ging an K&L Gates, deren Anwälte sie zum endgültigen Schriftsatz ausarbeiteten.
Wie sie vorgegangen sind
In keiner der beiden Kanzleien prüfte jemand die Recherche, bevor der Schriftsatz eingereicht wurde. Die Anwälte von K&L Gates wussten nicht, dass KI genutzt worden war, und fragten nicht nach. Als der Special Master, Michael Wilner, zwei falsche Zitate fand und danach fragte, schickte die Kanzlei einen überarbeiteten Schriftsatz, der diese beiden entfernte, andere KI-erzeugte Fehler aber beibehielt. Sie legte den Einsatz von KI nicht offen. Er kam erst nach einer späteren Anordnung zur Stellungnahme (Order to Show Cause) ans Licht.
Ergebnisse
Der Special Master fand etwa neun der 27 Zitate im 10-seitigen Schriftsatz in irgendeiner Weise falsch, und mindestens zwei Quellen existierten nicht. Er nannte es „ein kollektives Debakel“ („a collective debacle“) und ordnete an, dass die beiden Kanzleien gemeinsam 31.100 Dollar zahlen. Er strich den Schriftsatz und lehnte die darin beantragte Maßnahme im Discovery-Verfahren ab. Die einzelnen Anwälte sanktionierte er nicht.
Was schiefgelaufen ist
Die Fehler entstanden in drei Schritten: KI-Recherche ohne Offenlegung, keine Prüfung der Zitate und ein überarbeiteter Schriftsatz, der die wahre Ursache verbarg. Der Special Master sagte, der Einsatz von KI habe ihn in die Irre geführt, und es brauche starke Abschreckung.
Alle berichteten Zahlen
| Messgröße | Wert | Quellenangabe |
|---|---|---|
| Gegen die beiden Kanzleien als Gesamtschuldner angeordnete Gesamtzahlung | 31.100 Dollar2 | |
| Rechtszitate im 10-seitigen Schriftsatz, die laut Special Master in irgendeiner Weise falsch waren | Etwa neun der 272 | |
| Zitierte Quellen, die laut Special Master nicht existieren | Mindestens zwei2 | |
| Teil der Gesamtsumme zur Deckung der Kosten der Gegenseite für den Schriftsatz | 5.000 Dollar2 | |
| Teil der Gesamtsumme zur Erstattung der Special-Master-Gebühren der Gegenseite für den Umgang mit dem Problem | 26.100 Dollar2 |
Erkenntnisse für Ihr Projekt
Verlangen Sie vor der Einreichung eine menschliche Prüfung jedes Zitats und jeder Tatsache. Hier prüfte in keiner der beiden Kanzleien jemand die KI-gestützte Recherche, bevor sie vor Gericht kam.
Verpflichten Sie Mitarbeiter, offenzulegen, wann KI genutzt wurde. Die Anwälte von K&L Gates wussten nicht, dass die Gliederung von einer KI stammte, und fragten nicht nach.
Behandeln Sie einen Hinweis als Anlass für eine vollständige Prüfung. Als der Special Master zwei falsche Zitate beanstandete, entfernte die Kanzlei nur diese beiden und ließ die übrigen Fehler stehen.
Bestimmen Sie bei Arbeit, die zwischen Kanzleien oder Teams geteilt wird, eine verantwortliche Person, die das gesamte Dokument vor dem Versand prüft.
Einschränkungen
- Dies ist ein Fall des Scheiterns. Die KI-Tools lieferten die fehlerhafte Recherche; sanktioniert wurden die unterlassene Prüfung und die spätere erneute Einreichung.
- Die Quellen sagen nicht, welches der drei Tools (CoCounsel, Westlaw Precision, Google Gemini) welche Fehler erzeugte oder welche zugrunde liegenden Modelle sie nutzen.
- Die Anordnung stammt von einem vom Gericht bestellten Special Master in einem Bundesverfahren, nicht von einem abschließenden Urteil eines Richters. Der Special Master sanktionierte die einzelnen Anwälte nicht.
- Die Teile von 5.000 und 26.100 Dollar stehen so im Wortlaut der Anordnung, den Volokh Conspiracy veröffentlicht hat. Die Anordnung bezieht sich auf den Schriftsatz in Beschlüssen vom 15. und 20. April 2025, daher gilt April 2025; ein genaueres Datum wird nicht verwendet.
Quellen
- Sanctions imposed for 'collective debacle' involving AI hallucinations and 2 firms, including K&L Gates
ABA Journal · 2025-05-14 · Nachrichten · abajournal.com
- AI Hallucination in Filings Involving 14th-Largest U.S. Law Firm Lead to $31K in Sanctions
The Volokh Conspiracy (Reason) · 2025-05-13 · Nachrichten · reason.com
In eigenen Worten aus den oben genannten Quellen zusammengefasst. Einen Fehler entdeckt? Siehe Korrekturen.