Przetłumaczono z angielskiego oryginału. Liczby i źródła pozostają bez zmian. Przeczytaj angielski oryginał
Deloitte Australia
Deloitte Australia zwraca część opłaty za przegląd systemu świadczeń po błędach w cytowaniach i ujawnieniu użycia AI
Deloitte Australia użyło narzędzia generatywnej AI, Azure OpenAI GPT-4o, w przeglądzie zapewniającym (assurance) systemu informatycznego rządowego programu świadczeń. Po tym, jak w raporcie znaleziono błędne cytowania i nieprawidłowe streszczenie sprawy sądowej, Deloitte opublikowało go ponownie, a departament zamawiający mówi, że zwrócono ponad 97 000 A$ z umowy pierwotnie wycenionej na około 440 000 A$.
Kluczowe liczby
Przepisane dokładnie ze źródeł. Skopiuj każdą liczbę wraz z przypisem.
około 440 000 A$
Pierwotna wartość umowy z Deloitte, według ogłoszenia o zamówieniu publicznym cytowanego przez CFO Dive2
ponad 97 000 dolarów australijskich
Kwota zwrócona przez Deloitte, według rzecznika departamentu zamawiającego (podano 21 października 2025 roku)2
Ile to kosztowało
Problem
Australijski Departament Zatrudnienia i Stosunków Pracy (DEWR) zlecił Deloitte Australia przegląd systemu informatycznego stojącego za Targeted Compliance Framework, czyli systemem nakładającym sankcje w programie świadczeń. Zlecenie wydano w grudniu 2024 roku w ramach umowy pierwotnie wycenionej na około 440 000 A$. Po publikacji raportu z lipca 2025 roku osoby z zewnątrz znalazły odwołania, które się nie broniły, w tym błędnie streszczoną sprawę sądową.
Co zbudowano
Był to produkt doradczy, a nie oprogramowanie. Zespół Deloitte ocenił jakość kodu, testy, dokumentację i zgodność z przepisami. W jednym kroku, polegającym na sprawdzeniu, czy kod systemu da się powiązać z wymaganiami biznesowymi i potrzebami zgodności, poprawiony raport mówi, że zespół użył generatywnego modelu AI, Azure OpenAI GPT-4o, w łańcuchu narzędzi licencjonowanym przez DEWR i uruchamianym we własnym środowisku chmurowym Azure departamentu.
Jak to zrobiono
Raport opisuje narzędzie AI jako jeden z elementów szerszej oceny, w której wykorzystano też przegląd kodu, analizę testów, przegląd dokumentów i wywiady. Wersja z lipca 2025 roku nie wspomina o generatywnej AI. Wersja z września 2025 roku dodaje to ujawnienie w części o metodologii oraz notę „Report Update”. Nota mówi, że aktualizacja poprawia cytowania i pozycje listy odwołań, które zawierały błędy, naprawia streszczenie postępowania Amato i poprawia przejrzystość. Mówi, że aktualizacja nie zmienia merytorycznych ustaleń ani zaleceń.
Co poszło nie tak
Raport wyszedł z błędnymi cytowaniami i nieprawidłowym streszczeniem sprawy sądowej. Prasa pisała o zmyślonym cytacie sądowym i odwołaniach do prac, które nie istnieją, i opisywała błędy jako wygenerowane przez AI. Departament oświadczył, że Deloitte potwierdziło, iż niektóre przypisy i odwołania były błędne, a istota przeglądu została utrzymana. Rzecznik departamentu powiedział później, że Deloitte zwróciło ponad 97 000 A$.
Wyniki
Opublikowano poprawiony raport, departament utrzymał ustalenia, a część honorarium wróciła. Sprawa stała się szeroko cytowanym przykładem ryzyka AI w usługach profesjonalnych. Czy to narzędzie AI spowodowało błędne cytowania, sam raport nie mówi.
Wnioski dla Twojego projektu
Warto ujawniać klientowi użycie AI w chwili, gdy z niej korzystacie, a nie po wystąpieniu problemu. Pierwotny raport z lipca 2025 roku o tym nie wspominał; informacja o AI pojawiła się dopiero w wersji z września 2025 roku.
Sprawdzajcie każde cytowanie i każdy przypis w materiałach przygotowanych z pomocą AI, zanim opuszczą firmę, zwłaszcza cytaty z orzeczeń i prac naukowych. Błędne odwołania mogą kosztować honorarium i wiarygodność, nawet gdy wnioski się utrzymują.
Zapisujcie, który etap objęła AI, a który nie. Raport Deloitte umieszcza narzędzie AI w jednym kroku analizy (identyfikowalność kodu), podczas gdy debata publiczna dotyczyła cytowań, a raport nie rozstrzyga tego związku.
Wpisujcie do umów doradczych klauzule o użyciu AI: ujawnienie, obowiązki weryfikacji i los honorarium, jeśli zostaną znalezione błędy.
Zastrzeżenia
- Własna relacja wykonawcy to nota metodologiczna w poprawionym raporcie. Mówi ona, że generatywne narzędzie AI (Azure OpenAI GPT-4o), licencjonowane przez departament zamawiający i hostowane w jego środowisku Azure, zostało użyte w kroku dopasowania kodu do wymagań. Nie mówi, że narzędzie wytworzyło błędy w cytowaniach.
- Nota aktualizacyjna raportu mówi, że cytowania i pozycje bibliografii zawierały błędy oraz że streszczenie postępowania Amato zawierało błędy. Mówi, że aktualizacja nie wpływa na ustalenia i zalecenia. Sformułowania o tym, że błędy spowodowała AI, pochodzą z doniesień prasowych, a CFO Dive podaje, że Deloitte nie odpowiedziało od razu na prośbę o komentarz.
- Kwota zwrotu i wartość umowy pochodzą z CFO Dive, które powołuje się na rzecznika departamentu i ogłoszenie AusTender. Inne media podają inne sumy i daty, a zwrot opisano początkowo jako ostatnią ratę.
- Podana data wdrożenia to data pierwotnego raportu (4 lipca 2025 roku). Źródła nie mówią, kiedy użyto narzędzia AI.
- Strona internetowa departamentu była niedostępna w chwili przygotowywania tego wpisu, więc poprawiony raport odczytano z kopii w archiwum internetowym.
- To doradca używający AI w środowisku klienta rządowego, a nie instytucja publiczna prowadząca własne wdrożenie.
Źródła
- Targeted Compliance Framework: Department of Employment and Workplace Relations, Final Report, 26 September 2025
Deloitte, published by the Department of Employment and Workplace Relations · 2025-09-26 · Dokument urzędowy · dewr.gov.au
- Deloitte refunds over $60K for report with AI errors, Australian government says
CFO Dive · 2025-10-21 · Wiadomości · cfodive.com
Streszczone własnymi słowami na podstawie powyższych źródeł. Zauważyłeś błąd? Zobacz sprostowania.