Avvocati di Morgan & Morgan sanzionati dopo che lo strumento di IA interno dello studio ha inventato citazioni di casi

Il problema

Gli studi legali non devono citare casi che non esistono. I tribunali si aspettano che l'avvocato che firma un atto abbia verificato il diritto che vi è citato. Morgan & Morgan, un grande studio statunitense che rappresenta gli attori, voleva che i suoi avvocati lavorassero più in fretta con l'IA e ha costruito un proprio strumento a questo scopo.

Cosa hanno costruito

MX2.law, che il Chief Transformation Officer dello studio ha descritto in una dichiarazione al tribunale come un assistente legale di IA privato lanciato il 15 novembre 2024. È stato costruito per proteggere i dati dei clienti, comprese le informazioni sanitarie, e per collegarsi al sistema documentale dello studio. Tra le funzioni c'erano riassumere documenti, cercare al loro interno e aiutare a redigere testi. Lo studio aveva avvertito gli utenti che le risposte dell'IA possono essere sbagliate e aveva richiesto agli avvocati di rivedere i contenuti dell'IA prima di usarli, e aveva organizzato un webinar, guide scritte e sessioni pratiche facoltative.

Come ci sono riusciti

In una causa contro Walmart e Jetson Electric Bikes, l'avvocato Rudwin Ayala ha redatto istanze in limine, cioè richieste al giudice su quali prove la giuria può ascoltare. Ha caricato la bozza su MX2.law e ha chiesto di aggiungere giurisprudenza dei tribunali federali del Wyoming. Non ha controllato i casi aggiunti. Altri due avvocati hanno firmato le istanze senza rivederle.

Cosa è andato storto

Le istanze, depositate il 22 gennaio 2025, citavano nove casi, e otto non esistevano. Il giudice ha emesso un ordine di giustificazione il 6 febbraio 2025. Gli attori hanno ritirato le istanze il giorno dopo. Gli avvocati hanno poi ammesso che i casi erano stati inventati da una piattaforma di IA. Il tribunale ha ritenuto che tutti e tre i firmatari avessero violato la regola che impone un'indagine ragionevole sul diritto, ha rilevato i segnali che qualcosa non andava (pagine di riferimento mancanti, formato di citazione insolito) e ha affermato che il dovere di verifica non può essere passato a un collega.

Risultati

Il 24 febbraio 2025 il tribunale ha multato di 3.000 $ il signor Ayala e lo ha rimosso dal caso. Ha multato di 1.000 $ ciascuno degli altri due avvocati. Ha scelto di non ordinare agli studi di dare spiegazioni, citando la formazione dello studio e il nuovo promemoria a schermo che gli utenti devono verificare l'output dell'IA. Il giudice ha definito il caso l'ultimo monito a non fidarsi ciecamente delle citazioni dell'IA.

Cosa replicare

Rendere la verifica un passaggio obbligatorio e far sì che lo strumento lo ricordi nel momento dell'uso. Conservare le registrazioni dell'uso dello strumento per poter mostrare a un tribunale esattamente cosa è accaduto.