Traducido del original en inglés. Las cifras y las fuentes no cambian. Leer el original en inglés
Tromsø kommune
El municipio de Tromsø retira una propuesta de cierre de escuelas después de que ChatGPT inventara sus fuentes de investigación
Empleados de Tromsø, en Noruega, usaron ChatGPT desde cuentas privadas al redactar el capítulo de investigación de una propuesta de 2025 para reestructurar escuelas y guarderías. Las fuentes que citó no existían. El municipio pidió disculpas, retiró la propuesta, y una revisión de PwC que encargó concluyó que no estaba lo bastante maduro para usar IA.
Cifras clave
Copiadas literalmente de las fuentes. Copie cualquier cifra con su cita.
solo siete de 18
Entradas de la lista de fuentes de la propuesta que se pudieron rastrear, en la revisión del periódico local iTromsø (recogida por digi.no y NTB)1
7
Fuentes del capítulo 11.4 de la propuesta que PwC enumera y confirma que fueron inventadas por la IA2
medio año
Tiempo durante el cual la dirección general del municipio detuvo la consulta sobre la propuesta1
Qué requirió
El problema
En febrero de 2025, el municipio de Tromsø, en el norte de Noruega, sacó a consulta pública una propuesta de nueva estructura de guarderías y escuelas, con ocho escuelas propuestas para su cierre. Su base de conocimiento incluía un capítulo de investigación. Poco después de publicarse, surgieron acusaciones de que algunas de sus fuentes no existían.
Qué construyeron
No fue un proyecto de IA planificado. Se había animado al grupo de proyecto a usar IA para facilitar la redacción, y el personal usó sobre todo ChatGPT desde cuentas privadas. Según PwC, ChatGPT se empleó para resumir un texto preparado sobre el tamaño de las escuelas y luego se le pidieron fuentes. Aportó referencias a investigaciones y publicaciones que no existen, un efecto llamado alucinación.
Cómo lo hicieron
El texto y las referencias escritos por la IA pasaron al documento de consulta sin que los controles de calidad habituales los detectaran. Catedráticos nombrados en la lista dijeron que nunca habían escrito las obras que se les atribuían. La dirección general del municipio dijo que personas habían escrito la base de conocimiento y que la IA se usó como herramienta. El municipio admitió que las fuentes no existían, pidió disculpas y detuvo la consulta durante medio año. Después encargó a PwC que revisara el proyecto y su uso de la IA.
Resultados
El fracaso tuvo costes reales. El periódico local iTromsø halló rastreables solo siete de 18 fuentes enumeradas. El municipio retiró el caso y contrató una revisión externa. PwC presentó su informe el 2 de julio de 2025. Confirmó que siete fuentes del capítulo de investigación fueron inventadas por la IA. No halló pruebas de que los errores cambiaran la propuesta, pero dijo que podían dañar la confianza.
Qué salió mal
PwC constató que el municipio no tenía estrategia de IA, tenía una responsabilidad poco clara sobre la IA, directrices que no nombraban ningún sistema aprobado y ninguna formación para el personal. El texto generado por IA no se sometió a control de calidad y no se etiquetó como generado por IA. PwC concluyó que el municipio no estaba lo bastante maduro para adoptar la IA.
Qué replicar
Antes de que el personal use un chatbot general con documentos públicos, fije qué herramientas están permitidas, exija que una persona verifique cada fuente y etiquete el texto generado por IA.
Lecciones para su proyecto
No deje nunca que el personal pida fuentes a un chatbot y las pegue sin más. Trate cada referencia que dé una IA como no verificada hasta que una persona haya encontrado el original.
Deje por escrito qué herramientas de IA puede usar el personal antes de que las use. PwC constató que Tromsø no tenía estrategia de IA, tenía una responsabilidad poco clara y normas que no nombraban ningún sistema aprobado.
Forme al personal y etiquete el texto escrito con IA. PwC constató que el personal tuvo que aprender por su cuenta y que el texto generado ni se revisó ni se marcó como generado por IA.
Incorpore un control en los documentos de alto riesgo. Un documento de consulta pública necesita una persona revisora designada que confirme que cada fuente citada existe.
Salvedades
- Este es un caso de fracaso. El municipio no publicó ningún resultado obtenido con la IA. Las fuentes son la propia página del municipio, una revisión de PwC que encargó y noticias de prensa.
- El número de fuentes no verificables difiere según la fuente. La revisión del periódico encontró siete de 18 entradas rastreables. PwC enumera siete fuentes inventadas en un capítulo. Los recuentos de ambas fuentes no se combinan ni se recalculan aquí.
- El artículo de digi.no solo cita a una persona catedrática y a una persona investigadora que sospechan de ChatGPT. El informe de PwC lo confirma e indica que se usó sobre todo desde cuentas privadas, y que el municipio había pagado a veces cuentas individuales con proveedores externos tras la aprobación de una persona responsable. Es un uso del personal que se había animado a probar al grupo de proyecto.
- PwC no encontró pruebas de que las fuentes inventadas afectaran a la conclusión de la propuesta, porque la orientación ya estaba fijada por una decisión del pleno de 2021, aunque los errores podían reducir la confianza en el municipio.
- PwC dice que sus descripciones y valoraciones son propias y que la política de IA se estableció a mitad del proyecto, por lo que no está claro si se aplicaba cuando se usó ChatGPT.
- El informe de PwC devolvió un bloqueo de acceso en pwc.no y se leyó a partir de una copia de archivo web. La fecha de despliegue es el mes en que la propuesta salió a consulta. La página del municipio imprime "Publisert 27. jun 2025" («publicado el 27 de junio de 2025»), última actualización el 2 de julio de 2025, y esa es la fecha utilizada. La cifra de 1,2 millones de kroner procede de un medio de comunicación, no de PwC ni del municipio.
Fuentes
- Skandalen i Tromsø: Kommunen brukte kilder som KI hadde diktet opp
Digi.no (NTB) · 2025-03-28 · Noticia · digi.no
- Evaluering av bruk av kunstig intelligens i Tromsø kommune
PwC (commissioned by Tromsø kommune) · 2025-06-30 · Documento regulatorio · pwc.no
- KI-konklusjon klar: Tromsø kommune var ikke moden for å ta i bruk KI
NRK Troms og Finnmark · 2025-07-02 · Noticia · nrk.no
- Her er rapporten om KI-bruk og barnehage- og skolestruktur
Tromsø kommune · 2025-06-27 · Nota de prensa · tromso.kommune.no
Resumido con nuestras propias palabras a partir de las fuentes anteriores. ¿Ha detectado un error? Consulte correcciones.