Deloitte Australia rimborsa parte della revisione di un sistema di welfare dopo errori nelle citazioni e la dichiarazione dell'uso dell'IA

Deloitte Australia ha usato uno strumento di IA generativa, Azure OpenAI GPT-4o, in una revisione di assurance del sistema informatico di un programma pubblico di welfare. Dopo che nel rapporto sono state trovate citazioni errate e un riassunto sbagliato di una causa giudiziaria, Deloitte lo ha ripubblicato e il ministero committente dice che sono stati rimborsati oltre 97.000 A$ su un contratto originariamente del valore di circa 440.000 A$.

Migliorare la qualità, ridurre il rischio

Dati chiave

Copiati esattamente dalle fonti. Copiate qualsiasi dato insieme alla sua citazione.

circa 440.000 A$

Valore originario del contratto di Deloitte, secondo un avviso di appalto pubblico citato da CFO Dive2

oltre 97.000 dollari australiani

Importo rimborsato da Deloitte, secondo il ministero committente, tramite portavoce (riferito il 21 ottobre 2025)2

Cosa è servito

CostiContratto originariamente del valore di circa 440.000 A$2

TeamNon reso noto

TempiNon reso noto

Il problema

Il Dipartimento australiano per l'Occupazione e i Rapporti di lavoro (DEWR) ha incaricato Deloitte Australia di rivedere il sistema informatico alla base del Targeted Compliance Framework, il sistema che applica le sanzioni nel programma di welfare. L'incarico è stato affidato a dicembre 2024 con un contratto originariamente del valore di circa 440.000 A$. Dopo la pubblicazione del rapporto di luglio 2025, osservatori esterni hanno trovato riferimenti che non reggevano, tra cui una causa giudiziaria riassunta in modo errato.

Cosa hanno costruito

Era un lavoro di consulenza, non un prodotto. Il team di Deloitte ha valutato qualità del codice, test, documentazione e allineamento con la normativa. In un passaggio, la verifica della possibilità di collegare il codice del sistema ai requisiti di business e alle esigenze di conformità, il rapporto rivisto dice che il team ha usato un modello di IA generativa, Azure OpenAI GPT-4o, in una catena di strumenti concessa in licenza dal DEWR ed eseguita nell'ambiente cloud Azure del DEWR.

Come ci sono riusciti

Il rapporto descrive lo strumento di IA come uno degli input di una valutazione più ampia, che si è avvalsa anche di revisione del codice, analisi dei test, esame dei documenti e interviste. La versione di luglio 2025 del rapporto non menziona l'IA generativa. La versione di settembre 2025 aggiunge la dichiarazione nella sezione sulla metodologia e una nota "Report Update". La nota dice che l'aggiornamento corregge citazioni e voci dell'elenco dei riferimenti che contenevano errori, sistema il riassunto del procedimento Amato e migliora la chiarezza. Dice che l'aggiornamento non modifica le conclusioni e le raccomandazioni sostanziali.

Cosa è andato storto

Il rapporto è uscito con citazioni errate e un riassunto sbagliato di una causa giudiziaria. La stampa ha riferito di una citazione giudiziaria inventata e di rimandi a studi che non esistono, e ha descritto gli errori come generati dall'IA. Il ministero ha detto che Deloitte ha confermato che alcune note a piè di pagina e alcuni riferimenti erano errati e che la sostanza della revisione è stata mantenuta. Il ministero ha poi dichiarato, tramite portavoce, che Deloitte ha rimborsato oltre 97.000 A$.

Risultati

È stato pubblicato un rapporto corretto, il ministero ha mantenuto le conclusioni e una parte degli onorari è tornata indietro. L'episodio è diventato un esempio molto citato del rischio legato all'IA nei servizi professionali. Se lo strumento di IA abbia causato le citazioni difettose non è indicato nel rapporto stesso.

Lezioni per il vostro progetto

Dichiarare al cliente l'uso dell'IA nel momento in cui la si usa, non dopo un problema. Il rapporto originale di luglio 2025 non ne parlava; la nota sull'IA è comparsa solo nella versione di settembre 2025.
Controllare ogni citazione e ogni riferimento nei lavori assistiti dall'IA prima che escano dall'azienda, in particolare le citazioni di sentenze e di articoli accademici. Riferimenti sbagliati possono costare onorari e credibilità anche quando le conclusioni reggono.
Mettere per iscritto quale fase l'IA ha toccato e quale no. Il rapporto di Deloitte colloca lo strumento di IA in un solo passaggio di analisi (la tracciabilità del codice), mentre il dibattito pubblico riguardava le citazioni, e il rapporto non chiarisce questo legame.
Inserire clausole sull'uso dell'IA nei contratti di consulenza: dichiarazione, obblighi di revisione e sorte degli onorari se emergono errori.

Avvertenze

Il resoconto della società stessa è una nota metodologica nel suo rapporto rivisto. Dice che uno strumento di IA generativa (Azure OpenAI GPT-4o), concesso in licenza dal ministero committente e ospitato nel suo ambiente Azure, è stato usato in un passaggio di collegamento tra codice e requisiti. Non dice che lo strumento abbia prodotto gli errori di citazione.
La nota di aggiornamento del rapporto dice che citazioni e voci dei riferimenti contenevano errori e che un riassunto del procedimento Amato conteneva errori. Dice che l'aggiornamento non incide su conclusioni e raccomandazioni. Le formulazioni secondo cui l'IA avrebbe causato gli errori provengono dalla stampa, e CFO Dive riferisce che Deloitte non aveva risposto subito alla richiesta di commento.
La cifra del rimborso e il valore del contratto provengono da CFO Dive, che cita una dichiarazione del ministero rilasciata tramite portavoce e un avviso AusTender. Altre testate riportano totali e date diversi, e il rimborso è stato descritto all'inizio come l'ultima rata.
La data di diffusione indicata è quella del rapporto originale (4 luglio 2025). Le fonti non dicono quando lo strumento di IA è stato usato.
Il sito del ministero non era raggiungibile quando questa scheda è stata preparata, quindi il rapporto rivisto è stato letto da una copia d'archivio web.
Si tratta di un consulente che usa l'IA nell'ambiente di un cliente governativo, non di un ente pubblico che gestisce un proprio progetto.

Fonti

Targeted Compliance Framework: Department of Employment and Workplace Relations, Final Report, 26 September 2025
Deloitte, published by the Department of Employment and Workplace Relations · 2025-09-26 · Documento depositato · dewr.gov.au
Deloitte refunds over $60K for report with AI errors, Australian government says
CFO Dive · 2025-10-21 · Notizia · cfodive.com

Riassunto con parole nostre a partire dalle fonti sopra indicate. Avete notato un errore? Consultate le rettifiche.