Traducido del original en inglés. Las cifras y las fuentes no cambian. Leer el original en inglés
Levidow, Levidow & Oberman P.C.
Un bufete de Nueva York presenta casos judiciales inventados por ChatGPT y es sancionado con 5.000 dólares
En marzo de 2023, abogados de un bufete de Nueva York citaron en un escrito federal sentencias que no existían, tras usar ChatGPT para su investigación jurídica. En junio de 2023, el juez apreció mala fe, impuso una multa de 5.000 dólares y ordenó a los abogados escribir al cliente y a los jueces mencionados.
Cifras clave
Copiadas literalmente de las fuentes. Copie cualquier cifra con su cita.
mes y medio
Tiempo que los abogados siguieron defendiendo los casos falsos después de que el tribunal los cuestionara por primera vez, según el blog de Steptoe2
Qué requirió
Las fuentes no divulgan el coste, el tamaño del equipo ni los plazos.
El problema
Un abogado de un bufete de Nueva York necesitaba jurisprudencia para una demanda por lesiones personales contra una aerolínea. El bufete trabaja sobre todo en tribunales estatales y usaba un servicio de investigación con acceso limitado a casos federales. Recurrió a ChatGPT, que no había usado antes y que creía erróneamente una especie de buscador.
Qué construyeron
Nada a medida. El abogado usó el chatbot público ChatGPT para pedir jurisprudencia que respaldara su argumento. Este produjo descripciones de casos que no existían, con citas y referencias inventadas.
Cómo lo hicieron
El bufete presentó el escrito el 1 de marzo de 2023 citando esos casos. Los abogados de la aerolínea dijeron el 15 de marzo que no podían encontrarlos. El tribunal ordenó al bufete aportar las resoluciones, y este presentó extractos, uno de los cuales el juez describió como rayano en lo absurdo. Solo el 25 de mayo, tras una orden de justificación, un abogado admitió que ChatGPT había sido la fuente.
Qué salió mal
El tribunal apreció mala fe en los dos abogados a título individual, a partir de una evitación consciente y de declaraciones falsas y engañosas al tribunal. El bufete fue considerado solidariamente responsable porque no concurría ninguna circunstancia excepcional. El juez enumeró los daños de las citas falsas: la parte contraria pierde tiempo en desenmascararlas, el tribunal pierde tiempo, el cliente puede perder argumentos reales y se usan falsamente los nombres de jueces reales.
Resultados
El 22 de junio de 2023, el tribunal impuso una multa de 5.000 dólares, pagadera en el registro del tribunal. También ordenó cartas al cliente y a cada juez falsamente nombrado como autor de una resolución falsa, pero se negó a obligar a pedir disculpas. Al valorar la necesidad de disuasión, el juez tuvo en cuenta la considerable publicidad que había generado el caso.
Lecciones para su proyecto
Exija que una persona abra y lea cada fuente citada antes de presentar nada. Un chatbot puede producir referencias inventadas que parecen reales.
Redacte una política de uso de IA para el personal profesional que indique qué herramientas se permiten para investigar y quién revisa el resultado.
Si se detecta un error, comuníquelo de inmediato. El juez dijo que el expediente habría sido distinto si los abogados hubieran confesado pronto.
No dé por verificación preguntar al chatbot si su respuesta es real. En este caso, la misma herramienta siguió confirmando los casos falsos.
Salvedades
- El servicio de investigación del bufete tenía un acceso limitado a casos federales, lo que el abogado dio como motivo para recurrir a ChatGPT. Es el testimonio del propio abogado, tal como lo recoge el tribunal.
- La resolución del tribunal es el registro primario. La página del blog Steptoe SDNY se leyó a través de una copia archivada porque la página en línea bloqueaba el acceso automatizado.
- El juez señaló que usar una herramienta de IA no es en sí inadecuado. El fallo estuvo en la falta de verificación y en las declaraciones falsas y engañosas posteriores.
- La fecha de despliegue es el mes del primer escrito que citó los casos falsos (1 de marzo de 2023); las fuentes no dicen cuándo se hizo la investigación con ChatGPT.
- Se trata del uso de un chatbot público por parte de un profesional, no de un despliegue empresarial, y no se informa de resultados de negocio.
Fuentes
- Mata v. Avianca, Inc., Opinion and Order on Sanctions, 22-cv-1461 (PKC)
US District Court, Southern District of New York · 2023-06-22 · Documento regulatorio · storage.courtlistener.com
- Judge Castel Sanctions Lawyers Who Submitted Fake Cases Generated By ChatGPT
Steptoe SDNY Blog · 2023-06-28 · Noticia · sdnyblog.com
Resumido con nuestras propias palabras a partir de las fuentes anteriores. ¿Ha detectado un error? Consulte correcciones.