Vertaald uit het Engelse origineel. De cijfers en bronnen zijn ongewijzigd. Lees het Engelse origineel
Tromsø kommune
De gemeente Tromsø trekt een voorstel voor schoolsluitingen in nadat ChatGPT de onderzoeksbronnen verzon
Medewerkers in Tromsø, Noorwegen, gebruikten ChatGPT vanaf privéaccounts bij het opstellen van het onderzoekshoofdstuk van een voorstel uit 2025 om scholen en kinderdagverblijven te herstructureren. De bronnen die het citeerde bestonden niet. De gemeente bood excuses aan, trok het voorstel in, en een door haar bestelde beoordeling van PwC concludeerde dat ze niet volwassen genoeg was om AI te gebruiken.
Kerncijfers
Letterlijk overgenomen uit de bronnen. Kopieer elk cijfer met bronvermelding.
slechts zeven van 18
Vermeldingen in de bronnenlijst van het voorstel die te herleiden waren, in de controle door de lokale krant iTromsø (gemeld door digi.no en NTB)1
7
Bronnen in hoofdstuk 11.4 van het voorstel die PwC opsomt en bevestigt als door de AI verzonnen2
een half jaar
Duur waarvoor de algemeen directeur van de gemeente de consultatie over het voorstel stillegde1
1,2 miljoen
kroner
Gemelde kosten van de externe beoordeling, volgens Nordlys zoals aangehaald door NRK3
Wat het kostte
Het probleem
In februari 2025 stuurde de gemeente Tromsø in Noord-Noorwegen een voorstel voor een nieuwe structuur van kinderdagverblijven en scholen in openbare consultatie, waarbij acht scholen voor sluiting werden voorgesteld. De kennisbasis bevatte een onderzoekshoofdstuk. Kort na publicatie waren er beschuldigingen dat sommige bronnen niet bestonden.
Wat ze bouwden
Dit was geen gepland AI-project. De projectgroep was aangemoedigd AI te gebruiken om het schrijven te verlichten, en medewerkers gebruikten vooral ChatGPT vanaf privéaccounts. Volgens PwC werd ChatGPT gebruikt om een voorbereide tekst over schoolgroottes samen te vatten en kreeg het daarna de vraag om bronnen. Het leverde verwijzingen naar onderzoek en publicaties die niet bestaan, een effect dat hallucinatie heet.
Hoe ze het aanpakten
De door AI geschreven tekst en verwijzingen kwamen in het consultatiedocument terecht zonder door de gewone kwaliteitscontroles te worden opgemerkt. In de lijst genoemde hoogleraren zeiden dat ze de aan hen toegeschreven werken nooit hadden geschreven. De algemeen directeur van de gemeente zei dat mensen de kennisbasis hadden geschreven en dat AI als hulpmiddel was gebruikt. De gemeente erkende dat de bronnen niet bestonden, bood excuses aan en legde de consultatie een half jaar stil. Daarna liet ze PwC het project en het AI-gebruik beoordelen.
Resultaten
Het falen had echte kosten. De lokale krant iTromsø vond slechts zeven van 18 vermelde bronnen herleidbaar. De gemeente trok het voorstel in en schakelde een externe beoordeling in. PwC presenteerde zijn rapport op 2 juli 2025. Het bevestigde dat zeven bronnen in het onderzoekshoofdstuk door de AI waren verzonnen. Het vond geen aanwijzingen dat de fouten het voorstel veranderden, maar zei dat ze het vertrouwen konden schaden.
Wat er misging
PwC vond dat de gemeente geen AI-strategie had, onduidelijke verantwoordelijkheid voor AI, richtlijnen zonder genoemde goedgekeurde systemen en geen training voor medewerkers. De door AI gegenereerde tekst werd niet op kwaliteit gecontroleerd en niet als door AI gegenereerd aangeduid. PwC concludeerde dat de gemeente niet volwassen genoeg was om AI in te voeren.
Wat u kunt overnemen
Voordat medewerkers een algemene chatbot voor openbare documenten gebruiken, stelt u vast welke tools zijn toegestaan, eist u dat een persoon elke bron controleert en labelt u door AI gegenereerde tekst.
Lessen voor uw project
Laat medewerkers nooit een chatbot om bronnen vragen en die zomaar overnemen. Behandel elke verwijzing van een AI als ongecontroleerd totdat een persoon het origineel heeft gevonden.
Leg vast welke AI-tools medewerkers mogen gebruiken voordat ze ze gebruiken. PwC vond dat Tromsø geen AI-strategie had, onduidelijke verantwoordelijkheid en regels zonder goedgekeurde systemen.
Train medewerkers en label door AI geschreven tekst. PwC vond dat medewerkers zichzelf alles moesten leren en dat de gegenereerde tekst niet werd gecontroleerd en niet als door AI gegenereerd werd aangeduid.
Bouw een controle in bij stukken met veel gewicht. Een openbaar consultatiedocument heeft een aangewezen beoordelaar nodig die bevestigt dat elke aangehaalde bron bestaat.
Kanttekeningen
- Dit is een mislukkingsgeval. De gemeente publiceerde geen resultaat van de AI. De bronnen zijn de eigen pagina van de gemeente, een door haar bestelde beoordeling van PwC en nieuwsberichten.
- Het aantal niet te controleren bronnen verschilt per bron. De krantencontrole vond zeven van 18 vermeldingen herleidbaar. PwC noemt zeven verzonnen bronnen in één hoofdstuk. De tellingen van beide bronnen worden hier niet gecombineerd of herberekend.
- Het artikel van digi.no citeert alleen een hoogleraar en een onderzoeker die ChatGPT vermoeden. Het rapport van PwC bevestigt het en stelt dat het vooral vanaf privéaccounts werd gebruikt, en dat de gemeente soms individuele accounts bij externe aanbieders had betaald nadat een leidinggevende die had goedgekeurd. Dit is gebruik door medewerkers dat de projectgroep was aangemoedigd te proberen.
- PwC vond geen aanwijzingen dat de verzonnen bronnen de conclusie van het voorstel beïnvloedden, omdat de richting al was bepaald door een raadsbesluit uit 2021, al konden de fouten het vertrouwen in de gemeente wel schaden.
- PwC zegt dat de beschrijvingen en beoordelingen van PwC zelf zijn en dat het AI-beleid halverwege het project werd opgezet, zodat onduidelijk is of het van toepassing was toen ChatGPT werd gebruikt.
- Het PwC-rapport gaf op pwc.no een toegangsblokkade en werd gelezen vanaf een kopie uit een webarchief. De uitrolperiode is de maand waarin het voorstel in consultatie ging. De pagina van de gemeente drukt "Publisert 27. jun 2025" ("gepubliceerd op 27 juni 2025") af, laatst bijgewerkt op 2 juli 2025, en die datum wordt gebruikt. Het bedrag van 1,2 miljoen kroner is een mediabericht, niet van PwC of de gemeente.
Bronnen
- Skandalen i Tromsø: Kommunen brukte kilder som KI hadde diktet opp
Digi.no (NTB) · 2025-03-28 · Nieuws · digi.no
- Evaluering av bruk av kunstig intelligens i Tromsø kommune
PwC (commissioned by Tromsø kommune) · 2025-06-30 · Officiële melding · pwc.no
- KI-konklusjon klar: Tromsø kommune var ikke moden for å ta i bruk KI
NRK Troms og Finnmark · 2025-07-02 · Nieuws · nrk.no
- Her er rapporten om KI-bruk og barnehage- og skolestruktur
Tromsø kommune · 2025-06-27 · Persbericht · tromso.kommune.no
In eigen woorden samengevat op basis van de bovenstaande bronnen. Een fout gezien? Zie correcties.