Übersetzt aus dem englischen Original. Zahlen und Quellen sind unverändert. Englisches Original lesen
Butler Snow
Ungeprüfte ChatGPT-Recherche eines Butler-Snow-Partners führt zu erfundenen Zitaten und zum Ausschluss von drei Anwälten
Im Mai 2025 enthielten zwei Schriftsätze der US-Kanzlei Butler Snow fünf Zitate, die ein Partner von ChatGPT erhalten und nicht geprüft hatte. Im Juli 2025 rügte eine Bundesrichterin drei ihrer Anwälte, schloss sie vom Verfahren aus, meldete sie der Anwaltskammer des Bundesstaats und entließ die Kanzlei selbst ohne Sanktion.
Kennzahlen
Wortgetreu aus den Quellen übernommen. Kopieren Sie jede Zahl mit ihrer Quellenangabe.
fünf
Problematische Zitate in zwei im Mai 2025 eingereichten Anträgen1
mehr als 2.400 einzelne Rechtszitate in 330 Schriftsätzen
Geprüfte Zitate in einer von Butler Snow in Auftrag gegebenen unabhängigen Überprüfung ihrer übrigen Schriftsätze bei denselben Gerichten1
Was es erforderte
Kosten, Teamgröße und Zeitplan wurden in den Quellen nicht veröffentlicht.
Das Problem
Anwälte, die einen Schriftsatz unterzeichnen, bescheinigen, dass die zitierte Rechtslage real ist und das aussagt, was sie behaupten. Butler Snow verteidigte die frühere Leitung der Strafvollzugsbehörde von Alabama in einer Klage eines Häftlings. Im Mai 2025 wies die Seite des Häftlings darauf hin, dass zwei der Anträge Zitate enthielten, die erfunden zu sein schienen.
Was sie gebaut haben
Butler Snow baute dafür kein System. Ein Partner, Matthew Reeves, nutzte ChatGPT auf eigene Faust, um Rechtsprechung zu zwei Argumenten zu finden. Die Kanzlei hatte ihre Anwälte im Juni 2023 vor den Risiken großer Sprachmodelle gewarnt und verlangte für die Nutzung solcher Werkzeuge bei der Recherche die schriftliche Erlaubnis eines Leiters der Fachgruppe. Im Januar 2025 hatte sie ihren Anwälten ein anderes, freigegebenes Werkzeug zur Verfügung gestellt, Westlaw CoCounsel.
Wie sie vorgegangen sind
Herr Reeves sagte dem Gericht, er habe ChatGPT nach stützenden Fällen durchsucht, sie vor dem Einfügen nicht in Westlaw oder im Gerichtssystem geprüft und damit gegen die Kanzleirichtlinie verstoßen. Andere Anwälte unterzeichneten und reichten die Anträge ein. Insgesamt zählte das Gericht fünf problematische Zitate. Einige verwiesen auf Fälle, die nicht existieren, andere auf reale, aber sachfremde Fälle.
Was schiefgelaufen ist
Die Richterin konnte die Fälle nicht finden und forderte die Anwälte und die Kanzlei am 16. Mai 2025 auf, sich zu erklären. Die Kanzlei entschuldigte sich, nannte das Versäumnis unentschuldbar, beauftragte Morgan Lewis mit der Überprüfung ihrer übrigen Schriftsätze und versprach neue Schulungen und eine Zitatprüfung vor der Einreichung. Morgan Lewis prüfte laut der Anordnung mit 28 Anwälten mehr als 2.400 einzelne Rechtszitate in 330 Schriftsätzen und fand keine weiteren erfundenen.
Ergebnisse
Am 23. Juli 2025 rügte die Richterin Herrn Reeves, William Cranford und William Lunsford öffentlich, schloss sie vom Verfahren aus, ordnete die Veröffentlichung der Anordnung an und meldete den Vorgang der Anwaltskammer von Alabama. Sie sagte, die in solchen Fällen üblichen Rügen und kleinen Geldbußen hätten nicht ausgereicht, um dieses Verhalten abzuschrecken. Mit Verweis auf die unabhängige Überprüfung suspendierte sie sie nicht von der Berufsausübung, und sie entließ die Kanzlei und zwei weitere Anwälte ohne Sanktion.
Erkenntnisse für Ihr Projekt
Eine schriftliche KI-Richtlinie ist keine Kontrolle. Der Partner wusste, dass die Kanzlei für ChatGPT bei der Recherche eine schriftliche Genehmigung verlangte, und hielt sich nicht daran. Verbinden Sie die Richtlinie mit technischen Sperren und freigegebenen Werkzeugen.
Nehmen Sie jeden Unterzeichner in die Verantwortung. Das Gericht sanktionierte alle drei auf den Schriftsätzen genannten Anwälte, obwohl ein Partner die Zitate geliefert hatte, denn die Unterschrift bescheinigt, dass die Rechtslage geprüft wurde.
Prüfen Sie jedes Zitat vor der Einreichung in einer maßgeblichen Datenbank, gleichgültig, wer es hinzugefügt hat und mit welchem Werkzeug es entstand.
Untersuchen Sie mehr als den einzelnen Vorfall. Die Kanzlei beauftragte eine externe Kanzlei, ihre übrigen Schriftsätze erneut zu prüfen. Die Richterin nannte diese Überprüfung als Grund, die drei Anwälte nicht zu suspendieren, und entließ die Kanzlei, weil sie bei ihr weder böse Absicht noch Leichtfertigkeit sah.
Planen Sie die Folgen für Mandanten ein. Der Ausschluss entfernte die Anwälte der Kanzlei aus einem laufenden Verfahren, und das Gericht ordnete außerdem an, dass die drei Anwälte ihren Mandanten in jedem anhängigen Verfahren eine Kopie seiner Anordnung übergeben.
Einschränkungen
- ChatGPT war in der Kanzlei kein freigegebener Einsatz. Die Akte zeigt, dass ein Partner es entgegen der Kanzleirichtlinie nutzte, während die Kanzlei im Januar 2025 ein anderes Werkzeug freigegeben hatte, Westlaw CoCounsel. Dieser Eintrag hält den Vorfall und die Reaktion der Kanzlei fest, keinen genehmigten Rollout.
- Eine Modellversion wird nicht genannt. Die Quellen nennen nur ChatGPT.
- Das angegebene Einführungsdatum ist das Datum des ersten problematischen Schriftsatzes. Der Partner sagte dem Gericht, er habe seit etwa März 2024 in begrenztem Umfang verschiedene KI-Produkte genutzt.
- Die Sanktionen sind Feststellungen des Gerichts. Das ABA Journal gibt die eigene Darstellung der Kanzlei wieder, die von einem unentschuldbaren Versäumnis spricht und neue Schulungen und Protokolle zusagt.
- Die Kanzlei erklärte, der Bundesstaat Alabama werde keine Kosten für die Fehler oder deren Behebung tragen.
Quellen
- Sanctions Order, Johnson v. Dunn, No. 2:21-cv-1701-AMM (N.D. Ala.), Doc. 204
United States District Court for the Northern District of Alabama (via CourtListener) · 2025-07-23 · Behördliche Meldung · storage.courtlistener.com
- AI-hallucinated cases end up in more court filings, and Butler Snow issues apology for 'inexcusable' lapse
ABA Journal · 2025-05-27 · Nachrichten · abajournal.com
In eigenen Worten aus den oben genannten Quellen zusammengefasst. Einen Fehler entdeckt? Siehe Korrekturen.