Anwälte von Morgan & Morgan sanktioniert, nachdem das hauseigene KI-Werkzeug der Kanzlei Fallzitate erfunden hat

Das Problem

Anwaltskanzleien dürfen keine Fälle zitieren, die es nicht gibt. Gerichte erwarten, dass der Anwalt, der einen Schriftsatz unterzeichnet, die darin genannte Rechtslage geprüft hat. Morgan & Morgan, eine große US-Kanzlei für Klägerseiten, wollte, dass ihre Anwälte mit KI schneller arbeiten, und baute dafür ein eigenes Werkzeug.

Was sie gebaut haben

MX2.law, das der Chief Transformation Officer der Kanzlei in einer Erklärung vor Gericht als privaten KI-Rechtsassistenten beschrieb, eingeführt am 15. November 2024. Es sollte Mandantendaten einschließlich Gesundheitsdaten schützen und sich an das Dokumentensystem der Kanzlei anbinden. Zu seinen Funktionen gehörten das Zusammenfassen von Dokumenten, die Suche darin und Hilfe beim Entwerfen von Texten. Die Kanzlei wies die Nutzer darauf hin, dass KI-Antworten falsch sein können, und verlangte von den Anwälten, KI-Inhalte vor der Verwendung zu prüfen; sie bot ein Webinar, schriftliche Leitfäden und freiwillige praktische Termine an.

Wie sie vorgegangen sind

In einem Verfahren gegen Walmart und Jetson Electric Bikes verfasste der Anwalt Rudwin Ayala Anträge in limine, also Anträge an den Richter dazu, welche Beweise die Geschworenen hören dürfen. Er lud den Entwurf in MX2.law hoch und bat das Werkzeug, Rechtsprechung der Bundesgerichte in Wyoming hinzuzufügen. Die hinzugefügten Fälle prüfte er nicht. Zwei weitere Anwälte unterzeichneten die Anträge ebenfalls, ohne sie zu prüfen.

Was schiefgelaufen ist

Die Anträge, eingereicht am 22. Januar 2025, zitierten neun Fälle, von denen acht nicht existierten. Das Gericht erließ am 6. Februar 2025 eine Anordnung zur Stellungnahme. Die Kläger nahmen die Anträge am nächsten Tag zurück. Die Anwälte räumten dann ein, dass die Fälle von einer KI-Plattform erfunden worden waren. Das Gericht befand, alle drei Unterzeichner hätten gegen die Regel verstoßen, die eine angemessene Prüfung der Rechtslage verlangt, wies auf die Warnzeichen hin (fehlende Seitenangaben, ungewöhnliches Zitierformat) und stellte klar, dass sich die Prüfpflicht nicht an einen Kollegen abgeben lässt.

Ergebnisse

Am 24. Februar 2025 verhängte das Gericht gegen Herrn Ayala eine Geldbuße von 3.000 $ und nahm ihn aus dem Verfahren. Gegen jeden der beiden anderen Anwälte verhängte es 1.000 $. Es sah davon ab, den Kanzleien Erklärungen aufzugeben, und verwies auf die Schulungen der Kanzlei und den neuen Hinweis auf dem Bildschirm, dass Nutzer KI-Ergebnisse prüfen müssen. Das Gericht nannte den Fall die jüngste Mahnung, sich nicht blind auf KI-Zitate zu verlassen.

Was Sie übernehmen können

Machen Sie die Prüfung zu einem Pflichtschritt, und sorgen Sie dafür, dass das Werkzeug im Moment der Nutzung darauf hinweist. Führen Sie Nachweise über die Nutzung des Werkzeugs, damit Sie einem Gericht genau zeigen können, was geschehen ist.