Traducido del original en inglés. Las cifras y las fuentes no cambian. Leer el original en inglés
Morgan & Morgan
Abogados de Morgan & Morgan sancionados después de que la herramienta de IA interna del bufete inventara citas de casos
Morgan & Morgan lanzó MX2.law, un asistente jurídico de IA interno, en noviembre de 2024. En enero de 2025 un abogado lo usó para añadir jurisprudencia a una moción judicial, y ocho de los nueve casos citados no existían. Un tribunal federal multó con 3.000 $ al abogado que redactó las mociones y con 1.000 $ a cada uno de otros dos abogados firmantes, y no sancionó a los bufetes.
Cifras clave
Copiadas literalmente de las fuentes. Copie cualquier cifra con su cita.
ocho
Casos citados en las mociones in limine del 22 de enero de 2025 que no existían (de nueve citados)1
3.000
$
Multa impuesta al abogado que redactó las mociones (también se revocó su admisión en el caso)1
Qué requirió
Las fuentes no divulgan el coste, el tamaño del equipo ni los plazos.
El problema
Los bufetes de abogados no deben citar casos que no existen. Los tribunales esperan que el abogado que firma un escrito haya comprobado el derecho que contiene. Morgan & Morgan, un gran bufete estadounidense que representa a demandantes, quería que sus abogados trabajaran más rápido con IA y construyó su propia herramienta para ello.
Qué construyeron
MX2.law, que el Chief Transformation Officer del bufete describió en una declaración ante el tribunal como un asistente jurídico de IA privado lanzado el 15 de noviembre de 2024. Se diseñó para proteger los datos de los clientes, incluida la información de salud, y para conectarse al sistema de documentos del bufete. Entre sus funciones estaban resumir documentos, buscar dentro de ellos y ayudar a redactar textos. El bufete advirtió a los usuarios de que las respuestas de la IA pueden ser erróneas y exigió a los abogados revisar el contenido de IA antes de usarlo, y organizó un seminario web, guías escritas y sesiones prácticas opcionales.
Cómo lo hicieron
En un caso contra Walmart y Jetson Electric Bikes, el abogado Rudwin Ayala redactó mociones in limine, que son solicitudes al tribunal sobre las pruebas que el jurado puede escuchar. Subió el borrador a MX2.law y le pidió que añadiera jurisprudencia de los tribunales federales de Wyoming. No comprobó los casos que añadió. Otros dos abogados también firmaron las mociones sin revisarlas.
Qué salió mal
Las mociones, presentadas el 22 de enero de 2025, citaban nueve casos, y ocho no existían. El tribunal dictó una orden de comparecencia el 6 de febrero de 2025. Los demandantes retiraron las mociones al día siguiente. Después los abogados admitieron que los casos los había inventado una plataforma de IA. El tribunal concluyó que los tres firmantes infringieron la norma que exige una indagación razonable del derecho, señaló los indicios de que algo no cuadraba (páginas de referencia ausentes, formato de cita extraño) y dijo que el deber de comprobar no puede traspasarse a un colega.
Resultados
El 24 de febrero de 2025 el tribunal multó con 3.000 $ al Sr. Ayala y lo apartó del caso. Multó con 1.000 $ a cada uno de los otros dos abogados. Decidió no ordenar a los bufetes que dieran explicaciones, citando la formación del bufete y el nuevo recordatorio en pantalla de que los usuarios deben verificar los resultados de la IA. El tribunal calificó el caso como el último recordatorio de que no hay que fiarse ciegamente de las citas de la IA.
Qué replicar
Haga de la verificación un paso obligatorio y consiga que la herramienta lo diga en el momento de uso. Conserve registros del uso de la herramienta para poder mostrar a un tribunal exactamente qué ocurrió.
Lecciones para su proyecto
Trate los resultados de una herramienta de IA interna exactamente igual que los de un chatbot público. El tribunal sostuvo que el deber de los abogados firmantes de comprobar el derecho no puede delegarse, sea cual sea la herramienta.
La formación y las advertencias no evitaron el error. Añada controles estrictos antes de presentar, como exigir una segunda revisión de cada cita.
Incorpore un aviso de verificación en la propia herramienta. Tras el incidente, el bufete añadió una confirmación de que los usuarios deben verificar de forma independiente los resultados de la IA, lo que el tribunal tuvo en cuenta a su favor.
Responda con rapidez y de forma abierta. El tribunal citó la retirada de las mociones, el pago de los honorarios de la otra parte, la franqueza y las nuevas salvaguardas como motivos de sanciones más leves.
Salvedades
- Las fuentes no nombran el modelo que hay detrás de MX2.law. El directivo del bufete dice solo que usa las mejores funcionalidades de modelos de IA de su categoría.
- Los abogados de la otra parte habían sugerido que ChatGPT podía ser la fuente. El tribunal consideró que los abogados de los demandantes habían sido honestos al decir que usaron la herramienta del bufete, y no concluyó que se usara ChatGPT.
- El abogado que redactó las mociones dijo al tribunal que era la primera vez que usaba IA para añadir jurisprudencia. El expediente no muestra hasta qué punto los abogados del bufete usaban la herramienta.
- Las multas fueron pequeñas. Lo importante es el razonamiento: los deberes que conlleva la firma se aplican a la redacción asistida por IA.
- El ABA Journal informa de una sanción conjunta de 5.000 $; esta ficha recoge los tres importes de la resolución del tribunal.
Fuentes
- Order on Sanctions and Other Disciplinary Action, Wadsworth v. Walmart Inc., No. 2:23-CV-118-KHR (D. Wyo.)
United States District Court for the District of Wyoming (via CourtListener) · 2025-02-24 · Documento regulatorio · storage.courtlistener.com
- Declaration of Yathavapilas Ithayakumar (Exhibit 4 to Response to Order to Show Cause)
Morgan & Morgan, filed in the District of Wyoming (via CourtListener) · 2025-02-13 · Documento regulatorio · storage.courtlistener.com
- No. 42 law firm by head count sanctioned over fake case citations generated by AI
ABA Journal · 2025-02-10 · Noticia · abajournal.com
Resumido con nuestras propias palabras a partir de las fuentes anteriores. ¿Ha detectado un error? Consulte correcciones.