Deloitte Australie rembourse une partie d’un audit d’un système d’aide sociale après des erreurs de citations et la révélation de l’usage de l’IA

Le problème

Le ministère australien de l’Emploi et des Relations du travail (DEWR) a chargé Deloitte Australie d’auditer le système informatique du Targeted Compliance Framework, le dispositif qui applique les sanctions dans le programme d’aide sociale. La mission a été commandée en décembre 2024 dans le cadre d’un contrat évalué à l’origine à environ 440 000 A$. Après la publication du rapport de juillet 2025, des observateurs extérieurs ont trouvé des références qui ne tenaient pas, dont une décision de justice résumée de façon erronée.

Ce qu’ils ont construit

Il s’agissait d’un livrable de conseil, pas d’un produit. L'équipe de Deloitte a évalué la qualité du code, les tests, la documentation et la conformité à la législation. Pour une étape, qui consistait à vérifier si le code du système pouvait être rattaché aux exigences métier et aux besoins de conformité, le rapport révisé indique que l'équipe a utilisé un modèle d’IA générative, Azure OpenAI GPT-4o, dans une chaîne d’outils sous licence du DEWR et exécutée dans l’environnement cloud Azure du DEWR.

Comment ils s’y sont pris

Le rapport décrit l’outil d’IA comme un élément d’une évaluation plus large, qui s’appuyait aussi sur la revue de code, l’analyse des tests, l’examen de documents et des entretiens. La version de juillet 2025 du rapport ne mentionne pas l’IA générative. La version de septembre 2025 ajoute cette information dans sa section méthodologie, ainsi qu’une note « Report Update ». Cette note indique que la mise à jour corrige des citations et des entrées de la liste de références qui contenaient des erreurs, rectifie le résumé de la procédure Amato et améliore la clarté. Elle précise que la mise à jour ne modifie pas les conclusions ni les recommandations de fond.

Ce qui a mal tourné

Le rapport est sorti avec des citations incorrectes et un résumé erroné d’une décision de justice. La presse a fait état d’une citation judiciaire inventée et de renvois vers des articles qui n’existent pas, et a décrit les erreurs comme générées par l’IA. Le ministère a déclaré que Deloitte avait confirmé que certaines notes de bas de page et références étaient incorrectes et que le fond de l’audit était maintenu. Le porte-parole du ministère a dit par la suite que Deloitte avait remboursé plus de 97 000 A$.

Résultats

Un rapport corrigé a été publié, le ministère a maintenu les conclusions et une partie des honoraires a été restituée. L’affaire est devenue un exemple très cité du risque lié à l’IA dans les services professionnels. Le rapport lui-même n’indique pas si l’outil d’IA est à l’origine des citations erronées.