Tradotto dall'originale inglese. Dati e fonti restano invariati. Leggi l'originale in inglese
Tromsø kommune
Il comune di Tromsø ritira una proposta di chiusura di scuole dopo che ChatGPT ha inventato le sue fonti di ricerca
Dipendenti di Tromsø, in Norvegia, hanno usato ChatGPT da account privati nella stesura del capitolo di ricerca di una proposta del 2025 per ristrutturare scuole e asili. Le fonti che citava non esistevano. Il comune ha chiesto scusa, ha ritirato la proposta, e una revisione di PwC da esso commissionata ha concluso che non era abbastanza maturo per usare l’IA.
Dati chiave
Copiati esattamente dalle fonti. Copiate qualsiasi dato insieme alla sua citazione.
solo sette su 18
Voci dell’elenco delle fonti della proposta che è stato possibile rintracciare, nella verifica del quotidiano locale iTromsø (riportata da digi.no e NTB)1
7
Fonti del capitolo 11.4 della proposta che PwC elenca e conferma essere state inventate dall’IA2
sei mesi
Durata per cui il vertice amministrativo del comune ha sospeso la consultazione sulla proposta1
Cosa è servito
Il problema
Nel febbraio 2025 il comune di Tromsø, nel nord della Norvegia, ha mandato in consultazione pubblica una proposta per una nuova struttura di asili e scuole, con otto scuole proposte per la chiusura. La sua base di conoscenza comprendeva un capitolo di ricerca. Poco dopo la pubblicazione sono arrivate accuse secondo cui alcune delle sue fonti non esistevano.
Cosa hanno costruito
Non era un progetto di IA pianificato. Il gruppo di progetto era stato incoraggiato a usare l’IA per facilitare la scrittura, e il personale ha usato soprattutto ChatGPT da account privati. Secondo PwC, ChatGPT è stato usato per riassumere un testo preparato sulle dimensioni delle scuole e poi gli sono state chieste le fonti. Ha fornito riferimenti a ricerche e pubblicazioni che non esistono, un effetto chiamato allucinazione.
Come ci sono riusciti
Il testo e i riferimenti scritti dall’IA sono finiti nel documento di consultazione senza essere intercettati dai normali controlli di qualità. Alcuni professori citati nell’elenco hanno detto di non aver mai scritto le opere loro attribuite. Il vertice amministrativo del comune ha dichiarato che la base di conoscenza era stata scritta da persone e che l’IA era stata usata come strumento. Il comune ha ammesso che le fonti non esistevano, ha chiesto scusa e ha sospeso la consultazione per sei mesi. Ha poi incaricato PwC di esaminare il progetto e il suo uso dell’IA.
Risultati
Il fallimento ha avuto costi reali. Il quotidiano locale iTromsø ha trovato rintracciabili solo sette fonti elencate su 18. Il comune ha ritirato la proposta e ha incaricato una revisione esterna. PwC ha presentato il suo rapporto il 2 luglio 2025. Ha confermato che sette fonti del capitolo di ricerca erano state inventate dall’IA. Non ha trovato prove che gli errori abbiano modificato la proposta, ma ha detto che potevano danneggiare la fiducia.
Cosa è andato storto
PwC ha rilevato che il comune non aveva una strategia sull’IA, aveva responsabilità poco chiare sull’IA, linee guida che non nominavano alcun sistema approvato e nessuna formazione per il personale. Il testo generato dall’IA non è stato sottoposto a controllo di qualità e non è stato etichettato come generato dall’IA. PwC ha concluso che il comune non era abbastanza maturo per adottare l’IA.
Cosa replicare
Prima che il personale usi un chatbot generico su documenti pubblici, definire quali strumenti sono consentiti, richiedere che una persona verifichi ogni fonte ed etichettare il testo generato dall’IA.
Lezioni per il vostro progetto
Non lasciare mai che il personale chieda fonti a un chatbot e le incolli così come sono. Trattare ogni riferimento fornito da un’IA come non verificato finché una persona non ha trovato l’originale.
Mettere per iscritto quali strumenti di IA il personale può usare prima che li usi. PwC ha rilevato che Tromsø non aveva una strategia sull’IA, aveva responsabilità poco chiare e regole che non nominavano alcun sistema approvato.
Formare il personale ed etichettare i testi scritti con l’IA. PwC ha rilevato che il personale doveva formarsi da solo e che il testo generato non era né controllato né contrassegnato come generato dall’IA.
Inserire un controllo nei documenti ad alto rischio. Un documento di consultazione pubblica richiede un revisore designato che confermi che ogni fonte citata esista.
Avvertenze
- Questo è un caso di fallimento. Il comune non ha pubblicato alcun risultato dell’IA. Le fonti sono la pagina del comune, una revisione di PwC da esso commissionata e articoli di stampa.
- Il numero di fonti non verificabili differisce a seconda della fonte. La verifica del quotidiano ha trovato rintracciabili sette voci su 18. PwC elenca sette fonti inventate in un capitolo. I conteggi delle due fonti non vengono qui combinati né ricalcolati.
- L’articolo di digi.no si limita a citare un docente universitario e un’altra persona che si occupa di ricerca, che sospettano ChatGPT. Il rapporto di PwC lo conferma, precisando che è stato usato soprattutto da account privati e che il comune aveva talvolta pagato account individuali presso fornitori esterni dopo l’approvazione di un responsabile. È un uso da parte del personale che il gruppo di progetto era stato incoraggiato a provare.
- PwC non ha trovato prove che le fonti inventate abbiano influito sulla conclusione della proposta, perché la direzione era già stata fissata da una decisione del consiglio del 2021, anche se gli errori potevano ridurre la fiducia nel comune.
- PwC dice che le sue descrizioni e valutazioni sono sue, e che la politica sull’IA è stata definita a metà del progetto, quindi non è chiaro se fosse in vigore quando è stato usato ChatGPT.
- Il rapporto di PwC ha restituito un blocco di accesso su pwc.no ed è stato letto da una copia di archivio web. La data di messa in produzione è il mese in cui la proposta è andata in consultazione. La pagina del comune riporta "Publisert 27. jun 2025" ("pubblicato il 27 giugno 2025"), ultimo aggiornamento 2 luglio 2025, ed è la data utilizzata. La cifra di 1,2 milioni di kroner è una notizia di stampa, non di PwC né del comune.
Fonti
- Skandalen i Tromsø: Kommunen brukte kilder som KI hadde diktet opp
Digi.no (NTB) · 2025-03-28 · Notizia · digi.no
- Evaluering av bruk av kunstig intelligens i Tromsø kommune
PwC (commissioned by Tromsø kommune) · 2025-06-30 · Documento depositato · pwc.no
- KI-konklusjon klar: Tromsø kommune var ikke moden for å ta i bruk KI
NRK Troms og Finnmark · 2025-07-02 · Notizia · nrk.no
- Her er rapporten om KI-bruk og barnehage- og skolestruktur
Tromsø kommune · 2025-06-27 · Comunicato stampa · tromso.kommune.no
Riassunto con parole nostre a partire dalle fonti sopra indicate. Avete notato un errore? Consultate le rettifiche.