Traduit de l’original anglais. Les chiffres et les sources sont inchangés. Lire l’original en anglais
Tromsø kommune
La commune de Tromsø retire une proposition de fermeture d’écoles après que ChatGPT a inventé ses sources de recherche
À Tromsø, en Norvège, des agents ont utilisé ChatGPT depuis des comptes privés pour rédiger le chapitre de recherche d’une proposition de 2025 de restructuration des écoles et des jardins d’enfants. Les sources qu’il citait n’existaient pas. La commune a présenté ses excuses, retiré la proposition, et un examen de PwC qu’elle avait commandé a conclu qu’elle n’était pas assez mûre pour utiliser l’IA.
Chiffres clés
Repris tels quels des sources. Copiez n’importe quel chiffre avec sa citation.
seulement sept sur 18
Entrées de la liste de sources de la proposition qui ont pu être retrouvées, dans l’examen du journal local iTromsø (rapporté par digi.no et NTB)1
7
Sources du chapitre 11.4 de la proposition que PwC recense et confirme avoir été inventées par l’IA2
six mois
Durée pendant laquelle la direction générale de la commune a suspendu la consultation sur la proposition1
Ce que cela a demandé
Le problème
En février 2025, la commune de Tromsø, dans le nord de la Norvège, a mis en consultation publique une proposition de nouvelle structure pour les jardins d’enfants et les écoles, prévoyant la fermeture de huit écoles. Sa base de connaissances comprenait un chapitre de recherche. Peu après sa publication, des accusations ont affirmé que certaines de ses sources n’existaient pas.
Ce qu’ils ont construit
Il ne s’agissait pas d’un projet d’IA planifié. Le groupe de projet avait été encouragé à utiliser l’IA pour faciliter la rédaction, et le personnel a surtout utilisé ChatGPT depuis des comptes privés. Selon PwC, ChatGPT a servi à résumer un texte préparé sur la taille des écoles, puis on lui a demandé des sources. Il a fourni des références à des recherches et des publications qui n’existent pas, un phénomène appelé hallucination.
Comment ils s’y sont pris
Le texte et les références rédigés par l’IA sont entrés dans le document de consultation sans être détectés par les contrôles de qualité ordinaires. Des professeurs nommés dans la liste ont déclaré n’avoir jamais écrit les travaux qui leur étaient attribués. La direction générale de la commune a dit que la base de connaissances avait été rédigée par des personnes et que l’IA n’avait été qu’un outil. La commune a reconnu que les sources n’existaient pas, a présenté ses excuses et a suspendu la consultation pendant six mois. Elle a ensuite chargé PwC d’examiner le projet et son recours à l’IA.
Résultats
L’échec a eu des coûts réels. Le journal local iTromsø n’a retrouvé que sept sources sur 18. La commune a retiré le dossier et fait appel à un examen externe. PwC a présenté son rapport le 2 juillet 2025. Il a confirmé que sept sources du chapitre de recherche avaient été inventées par l’IA. Il n’a trouvé aucune preuve que les erreurs aient modifié la proposition, mais a estimé qu’elles pouvaient nuire à la confiance.
Ce qui a mal tourné
PwC a constaté que la commune n’avait pas de stratégie d’IA, pas de responsabilité claire en la matière, des consignes qui ne nommaient aucun système approuvé et aucune formation du personnel. Le texte généré par l’IA n’a pas été contrôlé et n’a pas été signalé comme tel. PwC a conclu que la commune n’était pas assez mûre pour adopter l’IA.
Ce qu’il faut retenir
Avant que le personnel n’utilise un agent conversationnel généraliste sur des documents publics, fixez les outils autorisés, exigez qu’une personne vérifie chaque source et signalez les textes générés par l’IA.
Enseignements pour votre projet
Ne laissez jamais le personnel demander des sources à un agent conversationnel pour les coller telles quelles. Considérez chaque référence fournie par une IA comme non vérifiée tant qu’une personne n’a pas retrouvé l’original.
Consignez par écrit les outils d’IA que le personnel peut utiliser avant qu’il ne les utilise. PwC a constaté que Tromsø n’avait ni stratégie d’IA, ni responsabilité claire, ni règles nommant des systèmes approuvés.
Formez le personnel et signalez les textes rédigés par l’IA. PwC a constaté que le personnel devait se former seul et que le texte généré n’était ni vérifié ni signalé comme généré par l’IA.
Intégrez un contrôle aux documents à fort enjeu. Un document de consultation publique exige un relecteur désigné qui confirme que chaque source citée existe.
Réserves
- Il s’agit d’un cas d’échec. La commune n’a publié aucun résultat tiré de l’IA. Les sources sont la page de la commune, un examen de PwC qu’elle a commandé et des articles de presse.
- Le nombre de sources invérifiables diffère selon la source. L’examen du journal a trouvé sept entrées sur 18 traçables. PwC recense sept sources inventées dans un chapitre. Les décomptes des deux sources ne sont ni combinés ni recalculés ici.
- L’article de digi.no ne fait que citer une personne professeure et une personne chercheuse qui soupçonnent ChatGPT. Le rapport de PwC le confirme, en précisant qu’il a surtout été utilisé depuis des comptes privés et que la commune avait parfois payé des comptes individuels auprès de prestataires externes après l’accord d’un responsable. Il s’agit d’un usage du personnel que le groupe de projet avait été encouragé à essayer.
- PwC n’a trouvé aucune preuve que les sources inventées aient affecté la conclusion de la proposition, car l’orientation était déjà fixée par une décision du conseil de 2021, même si les erreurs pouvaient nuire à la confiance envers la commune.
- PwC précise que ses descriptions et ses appréciations lui sont propres, et que la politique d’IA a été mise en place en cours de projet, de sorte qu’on ne sait pas si elle s’appliquait quand ChatGPT a été utilisé.
- Le rapport de PwC a renvoyé un blocage d’accès sur pwc.no et a été lu à partir d’une copie d’archive web. La date de déploiement est le mois où la proposition a été mise en consultation. La page de la commune indique "Publisert 27. jun 2025" (« publié le 27 juin 2025 »), dernière mise à jour le 2 juillet 2025, et c’est la date retenue. Le chiffre de 1,2 million de kroner provient d’un article de presse, non de PwC ni de la commune.
Sources
- Skandalen i Tromsø: Kommunen brukte kilder som KI hadde diktet opp
Digi.no (NTB) · 2025-03-28 · Presse · digi.no
- Evaluering av bruk av kunstig intelligens i Tromsø kommune
PwC (commissioned by Tromsø kommune) · 2025-06-30 · Document réglementaire · pwc.no
- KI-konklusjon klar: Tromsø kommune var ikke moden for å ta i bruk KI
NRK Troms og Finnmark · 2025-07-02 · Presse · nrk.no
- Her er rapporten om KI-bruk og barnehage- og skolestruktur
Tromsø kommune · 2025-06-27 · Communiqué de presse · tromso.kommune.no
Résumé dans nos propres mots à partir des sources ci-dessus. Une erreur ? Consultez les corrections.