Dos despachos multados con 31.100 dólares por citas falsas en un escrito judicial basado en una investigación redactada con IA

El problema

Los abogados de la parte demandante en Lacey v. State Farm, un caso de seguros ante un tribunal federal de Estados Unidos, tenían que presentar un escrito complementario sobre si un juez debía revisar en privado unos documentos en disputa. Dos despachos se repartieron el trabajo: Ellis George y K&L Gates.

Qué construyeron

Un abogado de Ellis George usó varias herramientas de IA para elaborar un esbozo del escrito. La declaración citada por el ABA Journal nombra funciones de IA generativa de CoCounsel, Westlaw Precision y Google Gemini. El esbozo contenía la investigación jurídica y se pasó a K&L Gates, cuyos abogados lo convirtieron en el escrito final.

Cómo lo hicieron

Nadie en ninguno de los dos despachos comprobó la investigación antes de presentar el escrito. Los abogados de K&L Gates no sabían que se había usado IA y no preguntaron. Cuando el special master, Michael Wilner, encontró dos citas erróneas y preguntó por ellas, el despacho envió un escrito revisado que eliminaba esas dos pero mantenía otros errores generados por la IA. No reveló el uso de IA. Este solo salió a la luz tras una orden posterior de justificación (order to show cause).

Resultados

El special master encontró incorrectas en algún aspecto unas nueve de las 27 citas del escrito de 10 páginas, y al menos dos autoridades no existían. Lo calificó de «a collective debacle» (traducción: «una debacle colectiva») y ordenó a los dos despachos pagar 31.100 dólares de forma conjunta. Anuló el escrito y rechazó la medida de exhibición de pruebas que solicitaba. No sancionó a los abogados a título individual.

Qué salió mal

Los errores llegaron en tres pasos: investigación con IA usada sin revelarlo, ninguna comprobación de las citas y un escrito revisado que ocultaba la causa real. El special master dijo que el uso de la IA lo había inducido a error y que hacía falta una fuerte disuasión.