Tradotto dall'originale inglese. Dati e fonti restano invariati. Leggi l'originale in inglese
Levidow, Levidow & Oberman P.C.
Uno studio legale di New York deposita cause inventate da ChatGPT e viene sanzionato con 5.000 dollari
A marzo 2023 gli avvocati di uno studio di New York hanno citato in una memoria federale decisioni giudiziarie inesistenti, dopo aver usato ChatGPT per la ricerca legale. A giugno 2023 il giudice ha riscontrato la malafede, ha imposto una sanzione di 5.000 dollari e ha ordinato agli avvocati di scrivere al cliente e ai giudici citati.
Dati chiave
Copiati esattamente dalle fonti. Copiate qualsiasi dato insieme alla sua citazione.
un mese e mezzo
Per quanto tempo gli avvocati hanno continuato a difendere i casi falsi dopo le prime domande del tribunale, secondo il blog di Steptoe2
Cosa è servito
Le fonti non rendono noti costi, dimensioni del team e tempi.
Il problema
Un avvocato di uno studio di New York aveva bisogno di giurisprudenza per una causa per lesioni personali contro una compagnia aerea. Lo studio lavora soprattutto nei tribunali statali e usava un servizio di ricerca con accesso limitato ai casi federali. Si è rivolto a ChatGPT, che non aveva mai usato e che credeva erroneamente una specie di motore di ricerca.
Cosa hanno costruito
Niente di personalizzato. L’avvocato ha usato il chatbot pubblico ChatGPT per chiedere giurisprudenza a sostegno della sua tesi. Questo ha prodotto descrizioni di casi inesistenti, con citazioni e riferimenti inventati.
Come ci sono riusciti
Lo studio ha depositato la memoria il 1° marzo 2023 citando quei casi. Il 15 marzo gli avvocati della compagnia aerea hanno detto di non riuscire a trovarli. Il tribunale ha ordinato allo studio di produrre le decisioni, e lo studio ha presentato degli estratti, uno dei quali il giudice ha descritto come al limite dell’insensato. Solo il 25 maggio, dopo un ordine di giustificarsi, un avvocato ha ammesso che la fonte era stata ChatGPT.
Cosa è andato storto
Il tribunale ha riscontrato la malafede dei due avvocati a titolo individuale, sulla base di una cecità volontaria (conscious avoidance) e di dichiarazioni false e fuorvianti al tribunale. Lo studio è stato ritenuto responsabile in solido perché non ricorrevano circostanze eccezionali. Il giudice ha elencato i danni delle citazioni false: la controparte perde tempo a smascherarle, il tribunale perde tempo, il cliente può perdere argomenti reali e i nomi di giudici veri vengono usati falsamente.
Risultati
Il 22 giugno 2023 il tribunale ha imposto una sanzione di 5.000 dollari, versata alla cancelleria del tribunale. Ha anche ordinato lettere al cliente e a ciascun giudice falsamente indicato come autore di una decisione inventata, ma ha rifiutato di imporre delle scuse. Nel valutare la necessità di un effetto deterrente, il giudice ha tenuto conto della notevole pubblicità che il caso aveva generato.
Lezioni per il vostro progetto
Richiedere che una persona apra e legga ogni fonte citata prima di depositare qualsiasi atto. Un chatbot può produrre riferimenti inventati che sembrano veri.
Scrivere una policy sull’uso dell’IA per i professionisti che indichi quali strumenti sono ammessi per la ricerca e chi ne controlla i risultati.
Se si trova un errore, segnalarlo subito. Il giudice ha detto che il fascicolo sarebbe apparso diverso se gli avvocati avessero confessato presto.
Non considerare una verifica chiedere al chatbot se la sua risposta è reale. In questo caso lo stesso strumento continuava a confermare i casi falsi.
Avvertenze
- Il servizio di ricerca dello studio aveva un accesso limitato ai casi federali, e l’avvocato lo ha indicato come motivo per cui si è rivolto a ChatGPT. È la testimonianza dell’avvocato stesso, come registrata dal tribunale.
- L’ordinanza del tribunale è la fonte primaria. La pagina del blog Steptoe SDNY è stata letta tramite una copia archiviata perché la pagina online bloccava l’accesso automatizzato.
- Il giudice ha osservato che l’uso di uno strumento di IA non è di per sé scorretto. La colpa è stata la mancanza di controlli e le successive dichiarazioni false e fuorvianti.
- La data di impiego è il mese della prima memoria che citava i casi falsi (1° marzo 2023); le fonti non dicono quando sia avvenuta la ricerca con ChatGPT.
- Si tratta dell’uso di un chatbot pubblico da parte di un professionista, non di un’introduzione aziendale, e non vengono riferiti risultati d’impresa.
Fonti
- Mata v. Avianca, Inc., Opinion and Order on Sanctions, 22-cv-1461 (PKC)
US District Court, Southern District of New York · 2023-06-22 · Documento depositato · storage.courtlistener.com
- Judge Castel Sanctions Lawyers Who Submitted Fake Cases Generated By ChatGPT
Steptoe SDNY Blog · 2023-06-28 · Notizia · sdnyblog.com
Riassunto con parole nostre a partire dalle fonti sopra indicate. Avete notato un errore? Consultate le rettifiche.