Tradotto dall'originale inglese. Dati e fonti restano invariati. Leggi l'originale in inglese
K&L Gates and Ellis George
Due studi legali multati per 31.100 dollari dopo che una ricerca redatta con l'IA ha inserito citazioni false in una memoria
In Lacey v. State Farm, un avvocato ha usato strumenti di IA per abbozzare una memoria che un secondo studio ha depositato senza verificarla. Uno special master nominato dal tribunale ha trovato errate circa nove citazioni su 27 e ha ordinato ai due studi di pagare 31.100 dollari.
Dati chiave
Copiati esattamente dalle fonti. Copiate qualsiasi dato insieme alla sua citazione.
Circa nove su 27
Citazioni giuridiche della memoria di 10 pagine risultate errate in qualche modo, secondo lo special master2
Almeno due
Fonti citate che non esistono, secondo lo special master2
Cosa è servito
Le fonti non rendono noti costi, dimensioni del team e tempi.
Il problema
Gli avvocati dell'attore in Lacey v. State Farm, una causa assicurativa in un tribunale federale statunitense, dovevano depositare una memoria integrativa sulla questione se un giudice dovesse esaminare in privato alcuni documenti contesi. Due studi si sono divisi il lavoro: Ellis George e K&L Gates.
Cosa hanno costruito
Un avvocato di Ellis George ha usato diversi strumenti di IA per produrre un abbozzo della memoria. La dichiarazione citata dall'ABA Journal nomina funzioni di IA generativa di CoCounsel, Westlaw Precision e Google Gemini. L'abbozzo conteneva la ricerca giuridica ed è stato passato a K&L Gates, i cui avvocati lo hanno trasformato nella memoria finale.
Come ci sono riusciti
Nessuno in nessuno dei due studi ha verificato la ricerca prima del deposito della memoria. Gli avvocati di K&L Gates non sapevano che fosse stata usata l'IA e non lo hanno chiesto. Quando lo special master, Michael Wilner, ha trovato due citazioni errate e ha chiesto spiegazioni, lo studio ha inviato una memoria rivista che toglieva quelle due ma manteneva altri errori generati dall'IA. Non ha rivelato l'uso dell'IA. Questo è emerso solo dopo una successiva order to show cause.
Risultati
Lo special master ha trovato errate in qualche modo circa nove delle 27 citazioni della memoria di 10 pagine, e almeno due fonti non esistevano. Ha definito il fatto "un disastro collettivo" ("a collective debacle") e ha ordinato ai due studi di pagare congiuntamente 31.100 dollari. Ha stralciato la memoria e ha negato la misura istruttoria che chiedeva. Non ha sanzionato i singoli avvocati.
Cosa è andato storto
Gli errori sono arrivati in tre passaggi: ricerca con l'IA usata senza dichiararlo, nessuna verifica delle citazioni e una memoria rivista che nascondeva la vera causa. Lo special master ha detto che l'uso dell'IA lo aveva tratto in inganno e che era necessaria una forte deterrenza.
Tutti i dati dichiarati
| Indicatore | Dato | Citazione |
|---|---|---|
| Pagamento totale ordinato ai due studi legali, in solido | 31.100 dollari2 | |
| Citazioni giuridiche della memoria di 10 pagine risultate errate in qualche modo, secondo lo special master | Circa nove su 272 | |
| Fonti citate che non esistono, secondo lo special master | Almeno due2 | |
| Parte del totale fissata per coprire le spese della difesa per la memoria | 5.000 dollari2 | |
| Parte del totale fissata per rimborsare alla difesa le spese dello special master per gestire il problema | 26.100 dollari2 |
Lezioni per il vostro progetto
Richiedere un controllo umano di ogni citazione e di ogni fatto prima del deposito. Qui nessuno in nessuno dei due studi ha verificato la ricerca redatta con l'IA prima che arrivasse al tribunale.
Far dire al personale quando è stata usata l'IA. Gli avvocati di K&L Gates non sapevano che l'abbozzo venisse dall'IA e non lo hanno chiesto.
Trattare un avvertimento come l'occasione per una revisione completa. Quando lo special master ha segnalato due citazioni errate, lo studio ha tolto quelle due e ha lasciato gli altri errori.
Nel lavoro condiviso tra studi o team, assegnare a un solo responsabile la verifica dell'intero documento prima dell'invio.
Avvertenze
- Questo è un caso di fallimento. Gli strumenti di IA hanno prodotto la ricerca difettosa; la sanzione riguardava la mancata verifica e il successivo nuovo deposito.
- Le fonti non dicono quale dei tre strumenti (CoCounsel, Westlaw Precision, Google Gemini) abbia prodotto quali errori, né quali modelli sottostanti usino.
- L'ordinanza proviene da uno special master nominato dal tribunale in un procedimento federale, non da una sentenza definitiva di un giudice. Lo special master non ha sanzionato i singoli avvocati.
- Le parti di 5.000 e 26.100 dollari sono quelle citate nel testo dell'ordinanza pubblicato da Volokh Conspiracy. L'ordinanza fa riferimento alla memoria in provvedimenti del 15 e del 20 aprile 2025, quindi si usa aprile 2025; non si usa una data più precisa.
Fonti
- Sanctions imposed for 'collective debacle' involving AI hallucinations and 2 firms, including K&L Gates
ABA Journal · 2025-05-14 · Notizia · abajournal.com
- AI Hallucination in Filings Involving 14th-Largest U.S. Law Firm Lead to $31K in Sanctions
The Volokh Conspiracy (Reason) · 2025-05-13 · Notizia · reason.com
Riassunto con parole nostre a partire dalle fonti sopra indicate. Avete notato un errore? Consultate le rettifiche.