Traduit de l’original anglais. Les chiffres et les sources sont inchangés. Lire l’original en anglais
Levidow, Levidow & Oberman P.C.
Un cabinet d’avocats new-yorkais dépose des affaires inventées par ChatGPT et écope de 5 000 dollars de sanction
En mars 2023, des avocats d’un cabinet new-yorkais ont cité dans un mémoire fédéral des décisions de justice qui n’existaient pas, après avoir utilisé ChatGPT pour leurs recherches juridiques. En juin 2023, le juge a constaté leur mauvaise foi, infligé une sanction de 5 000 dollars et ordonné aux avocats d’écrire à leur client et aux juges nommés.
Chiffres clés
Repris tels quels des sources. Copiez n’importe quel chiffre avec sa citation.
un mois et demi
Durée pendant laquelle les avocats ont continué à défendre les fausses affaires après les premières questions du tribunal, selon le blog de Steptoe2
Ce que cela a demandé
Le coût, la taille de l’équipe et le calendrier ne sont pas communiqués dans les sources.
Le problème
Un avocat d’un cabinet new-yorkais avait besoin de jurisprudence pour une action en réparation de dommages corporels contre une compagnie aérienne. Le cabinet plaide surtout devant les juridictions des États et utilisait un service de recherche à l’accès limité aux affaires fédérales. Il s’est tourné vers ChatGPT, qu’il n’avait jamais utilisé et qu’il prenait à tort pour une sorte de moteur de recherche.
Ce qu’ils ont construit
Rien de sur mesure. L’avocat a utilisé le chatbot public ChatGPT pour demander de la jurisprudence à l’appui de son argumentation. Celui-ci a produit des descriptions d’affaires qui n’existaient pas, avec des citations et des références inventées.
Comment ils s’y sont pris
Le cabinet a déposé le mémoire le 1er mars 2023 en citant ces affaires. Le 15 mars, les avocats de la compagnie aérienne ont dit ne pas pouvoir les trouver. Le tribunal a ordonné au cabinet de produire les décisions, et celui-ci a fourni des extraits, dont le juge a dit que l’un frôlait l’absurde. Ce n’est que le 25 mai, après une ordonnance de justification, qu’un avocat a admis que ChatGPT en était la source.
Ce qui a mal tourné
Le tribunal a constaté la mauvaise foi des deux avocats à titre individuel, sur la base d’un évitement conscient et de déclarations fausses et trompeuses faites au tribunal. Le cabinet a été tenu solidairement responsable, aucune circonstance exceptionnelle ne s’appliquant. Le juge a énuméré les préjudices des fausses citations : la partie adverse perd du temps à les démasquer, le tribunal perd du temps, le client risque de perdre de véritables arguments et le nom de vrais juges est utilisé à tort.
Résultats
Le 22 juin 2023, le tribunal a infligé une sanction de 5 000 dollars, versée au greffe du tribunal. Il a aussi ordonné l’envoi de lettres au client et à chaque juge désigné à tort comme l’auteur d’une fausse décision, mais a refusé d’imposer des excuses. Pour apprécier la nécessité d’un effet dissuasif, le juge a tenu compte de la publicité considérable donnée à l’affaire.
Enseignements pour votre projet
Exigez qu’une personne ouvre et lise chaque source citée avant tout dépôt. Un chatbot peut produire des références inventées qui paraissent réelles.
Rédigez une politique d’usage de l’IA pour les professionnels, qui précise quels outils sont autorisés pour la recherche et qui contrôle les résultats.
Si une erreur est découverte, signalez-la immédiatement. Le juge a dit que le dossier aurait eu un autre visage si les avocats avaient tout avoué dès le départ.
Ne prenez pas pour une vérification le fait de demander au chatbot si sa réponse est réelle. Dans cette affaire, le même outil a continué à confirmer les fausses affaires.
Réserves
- Le service de recherche du cabinet avait un accès limité aux affaires fédérales, ce que l’avocat a donné comme raison de son recours à ChatGPT. C’est le témoignage de l’avocat lui-même, tel que consigné par le tribunal.
- L’avis du tribunal est le document de référence. La page du blog Steptoe SDNY a été lue dans une copie archivée, car la page en ligne bloquait l’accès automatisé.
- Le juge a relevé que l’usage d’un outil d’IA n’est pas répréhensible en soi. La faute tient à l’absence de vérification et aux déclarations fausses et trompeuses faites ensuite.
- La date de déploiement est le mois du premier mémoire citant les fausses affaires (1er mars 2023) ; les sources ne disent pas quand la recherche avec ChatGPT a eu lieu.
- Il s’agit de l’usage d’un chatbot public par un professionnel, et non d’un déploiement en entreprise ; aucun résultat commercial n’est rapporté.
Sources
- Mata v. Avianca, Inc., Opinion and Order on Sanctions, 22-cv-1461 (PKC)
US District Court, Southern District of New York · 2023-06-22 · Document réglementaire · storage.courtlistener.com
- Judge Castel Sanctions Lawyers Who Submitted Fake Cases Generated By ChatGPT
Steptoe SDNY Blog · 2023-06-28 · Presse · sdnyblog.com
Résumé dans nos propres mots à partir des sources ci-dessus. Une erreur ? Consultez les corrections.