Des avocats de Morgan & Morgan sanctionnés après que l’outil d’IA interne du cabinet a inventé des décisions de justice

Le problème

Les cabinets d’avocats ne doivent pas citer de décisions qui n’existent pas. Les tribunaux attendent de l’avocat qui signe un acte qu’il ait vérifié le droit qui y figure. Morgan & Morgan, grand cabinet américain spécialisé dans la défense des plaignants, voulait que ses avocats travaillent plus vite grâce à l’IA, et a construit son propre outil dans ce but.

Ce qu’ils ont construit

MX2.law, que le Chief Transformation Officer du cabinet a décrit dans une déclaration au tribunal comme un assistant juridique d’IA privé lancé le 15 novembre 2024. Il a été conçu pour protéger les données des clients, y compris les données de santé, et se connecter au système documentaire du cabinet. Il permettait notamment de résumer des documents, d’y faire des recherches et d’aider à rédiger des textes. Le cabinet avait averti les utilisateurs que les réponses de l’IA peuvent être fausses et exigé des avocats qu’ils relisent le contenu produit par l’IA avant de l’utiliser, et il avait organisé un webinaire, des guides écrits et des séances pratiques facultatives.

Comment ils s’y sont pris

Dans une affaire contre Walmart et Jetson Electric Bikes, l’avocat Rudwin Ayala a rédigé des requêtes in limine, c’est-à-dire des demandes adressées au juge sur les éléments de preuve que le jury peut entendre. Il a téléversé son projet dans MX2.law et lui a demandé d’y ajouter de la jurisprudence des tribunaux fédéraux du Wyoming. Il n’a pas vérifié les décisions ajoutées. Deux autres avocats ont aussi signé les requêtes sans les relire.

Ce qui a mal tourné

Les requêtes, déposées le 22 janvier 2025, citaient neuf décisions, dont huit n’existaient pas. Le tribunal a rendu une ordonnance de justification le 6 février 2025. Les demandeurs ont retiré les requêtes le lendemain. Les avocats ont ensuite admis que les décisions avaient été inventées par une plateforme d’IA. Le tribunal a estimé que les trois signataires avaient enfreint la règle exigeant une vérification raisonnable du droit, a relevé les signes qui auraient dû alerter (pages de renvoi manquantes, format de citation inhabituel) et a affirmé que l’obligation de vérifier ne peut pas être confiée à un collègue.

Résultats

Le 24 février 2025, le tribunal a condamné M. Ayala à une amende de 3 000 $ et l’a retiré de l’affaire. Il a infligé 1 000 $ d’amende à chacun des deux autres avocats. Il a choisi de ne pas ordonner aux cabinets de s’expliquer, en invoquant la formation dispensée par le cabinet et le nouveau rappel à l'écran selon lequel les utilisateurs doivent vérifier les résultats de l’IA. Le tribunal a qualifié l’affaire de dernier rappel à ne pas se fier aveuglément aux citations produites par l’IA.

Ce qu’il faut retenir

Faites de la vérification une étape obligatoire, et faites en sorte que l’outil le rappelle au moment de l’usage. Conservez les traces d’utilisation de l’outil pour pouvoir montrer précisément à un tribunal ce qui s’est passé.