Übersetzt aus dem englischen Original. Zahlen und Quellen sind unverändert. Englisches Original lesen
Levidow, Levidow & Oberman P.C.
Eine New Yorker Kanzlei reicht von ChatGPT erfundene Gerichtsfälle ein und wird mit 5.000 Dollar sanktioniert
Im März 2023 zitierten Anwälte einer New Yorker Kanzlei in einem Bundesgerichtsschriftsatz Gerichtsentscheidungen, die es nicht gab, nachdem sie ChatGPT für die juristische Recherche genutzt hatten. Im Juni 2023 stellte das Gericht böswilliges Handeln fest, verhängte eine Strafe von 5.000 Dollar und ordnete an, dass die Anwälte der Mandantschaft und den genannten Richtern schreiben.
Kennzahlen
Wortgetreu aus den Quellen übernommen. Kopieren Sie jede Zahl mit ihrer Quellenangabe.
anderthalb Monate
Wie lange die Anwälte die erfundenen Fälle weiter verteidigten, nachdem das Gericht sie erstmals befragt hatte, laut dem Steptoe-Blog2
Was es erforderte
Kosten, Teamgröße und Zeitplan wurden in den Quellen nicht veröffentlicht.
Das Problem
Ein Anwalt einer New Yorker Kanzlei brauchte Rechtsprechung für eine Personenschadensklage gegen eine Fluggesellschaft. Die Kanzlei arbeitet hauptsächlich vor einzelstaatlichen Gerichten und nutzte einen Recherchedienst mit begrenztem Zugang zu Bundesfällen. Er wandte sich an ChatGPT, das er noch nie benutzt hatte und fälschlich für eine Art Suchmaschine hielt.
Was sie gebaut haben
Nichts Eigenes. Der Anwalt nutzte den öffentlichen Chatbot ChatGPT, um Rechtsprechung zur Stützung seiner Argumentation zu erfragen. Dieser lieferte Beschreibungen von Fällen, die es nicht gab, samt erfundenen Zitaten und Fundstellen.
Wie sie vorgegangen sind
Die Kanzlei reichte den Schriftsatz am 1. März 2023 ein und zitierte diese Fälle. Die Anwälte der Fluggesellschaft sagten am 15. März, sie könnten sie nicht finden. Das Gericht ordnete an, die Entscheidungen vorzulegen, und die Kanzlei reichte Auszüge ein, von denen das Gericht einen als an Unsinn grenzend bezeichnete. Erst am 25. Mai räumte einer der Anwälte nach einer Aufforderung zur Stellungnahme ein, dass ChatGPT die Quelle gewesen war.
Was schiefgelaufen ist
Das Gericht stellte bei den beiden einzelnen Anwälten böswilliges Handeln fest, gestützt auf bewusstes Wegsehen und falsche und irreführende Angaben gegenüber dem Gericht. Die Kanzlei wurde gesamtschuldnerisch zur Verantwortung gezogen, weil keine außergewöhnlichen Umstände vorlagen. Das Gericht zählte die Schäden erfundener Zitate auf: Die Gegenseite verliert Zeit, sie aufzudecken, das Gericht verliert Zeit, die Mandantschaft kann echte Argumente einbüßen, und die Namen echter Richter werden zu Unrecht verwendet.
Ergebnisse
Am 22. Juni 2023 verhängte das Gericht eine Strafe von 5.000 Dollar, zu zahlen an die Gerichtskasse. Es ordnete außerdem Schreiben an die Mandantschaft und an jeden Richter an, der fälschlich als Autor einer erfundenen Entscheidung genannt wurde, lehnte es aber ab, eine Entschuldigung zu erzwingen. Bei der Abwägung der Notwendigkeit von Abschreckung berücksichtigte das Gericht die erhebliche öffentliche Aufmerksamkeit, die der Fall erregt hatte.
Erkenntnisse für Ihr Projekt
Verlangen Sie, dass eine Person jede zitierte Quelle öffnet und liest, bevor etwas eingereicht wird. Ein Chatbot kann erfundene Verweise liefern, die echt aussehen.
Schreiben Sie eine Richtlinie zur KI-Nutzung für Fachpersonal, die festlegt, welche Werkzeuge für die Recherche erlaubt sind und wer die Ausgabe prüft.
Legen Sie einen gefundenen Fehler sofort offen. Das Gericht sagte, die Akte hätte anders ausgesehen, wenn die Anwälte früh reinen Tisch gemacht hätten.
Betrachten Sie es nicht als Überprüfung, den Chatbot zu fragen, ob seine Antwort echt ist. In diesem Fall bestätigte dasselbe Werkzeug die erfundenen Fälle immer wieder.
Einschränkungen
- Der Recherchedienst der Kanzlei hatte nur begrenzten Zugang zu Bundesfällen; das nannte der Anwalt als Grund, warum er sich an ChatGPT wandte. Das ist die eigene Aussage des Anwalts, wie vom Gericht festgehalten.
- Die Gerichtsentscheidung ist die Primärquelle. Die Seite des Steptoe-SDNY-Blogs wurde über eine archivierte Kopie gelesen, weil die Live-Seite automatisierten Zugriff blockierte.
- Das Gericht stellte fest, dass der Einsatz eines KI-Werkzeugs an sich nicht unzulässig ist. Das Versagen lag in der fehlenden Prüfung und den späteren falschen und irreführenden Angaben.
- Das Einführungsdatum ist der Monat des ersten Schriftsatzes, der die erfundenen Fälle zitierte (1. März 2023); die Quellen sagen nicht, wann die Recherche mit ChatGPT stattfand.
- Es handelt sich um die Nutzung eines öffentlichen Chatbots durch einen Berufsträger, nicht um einen Unternehmenseinsatz; geschäftliche Ergebnisse werden nicht berichtet.
Quellen
- Mata v. Avianca, Inc., Opinion and Order on Sanctions, 22-cv-1461 (PKC)
US District Court, Southern District of New York · 2023-06-22 · Behördliche Meldung · storage.courtlistener.com
- Judge Castel Sanctions Lawyers Who Submitted Fake Cases Generated By ChatGPT
Steptoe SDNY Blog · 2023-06-28 · Nachrichten · sdnyblog.com
In eigenen Worten aus den oben genannten Quellen zusammengefasst. Einen Fehler entdeckt? Siehe Korrekturen.