Übersetzt aus dem englischen Original. Zahlen und Quellen sind unverändert. Englisches Original lesen
Tromsø kommune
Die Kommune Tromsø zieht einen Schulschließungsvorschlag zurück, nachdem ChatGPT dessen Forschungsquellen erfunden hat
Beschäftigte in Tromsø, Norwegen, nutzten ChatGPT von privaten Konten aus, als sie das Forschungskapitel eines Vorschlags von 2025 zur Neuordnung von Schulen und Kindergärten entwarfen. Die zitierten Quellen existierten nicht. Die Kommune entschuldigte sich, zog den Vorschlag zurück, und eine von ihr beauftragte Prüfung durch PwC kam zu dem Schluss, sie sei für den Einsatz von KI nicht reif genug gewesen.
Kennzahlen
Wortgetreu aus den Quellen übernommen. Kopieren Sie jede Zahl mit ihrer Quellenangabe.
nur sieben von 18
Einträge in der Quellenliste des Vorschlags, die sich nachverfolgen ließen, in der Prüfung der Lokalzeitung iTromsø (berichtet von digi.no und NTB)1
7
Quellen in Kapitel 11.4 des Vorschlags, die PwC auflistet und als von der KI erfunden bestätigt2
ein halbes Jahr
Dauer, für die die Verwaltungsspitze der Kommune die Konsultation zum Vorschlag aussetzte1
Was es erforderte
Das Problem
Im Februar 2025 schickte die Kommune Tromsø im Norden Norwegens einen Vorschlag für eine neue Struktur von Kindergärten und Schulen in die öffentliche Konsultation, bei dem acht Schulen zur Schließung vorgeschlagen wurden. Seine Wissensgrundlage enthielt ein Forschungskapitel. Kurz nach der Veröffentlichung wurde der Vorwurf laut, einige seiner Quellen existierten nicht.
Was sie gebaut haben
Dies war kein geplantes KI-Projekt. Die Projektgruppe war ermutigt worden, KI zur Erleichterung des Schreibens zu nutzen, und die Beschäftigten verwendeten vor allem ChatGPT von privaten Konten aus. Laut PwC wurde ChatGPT eingesetzt, um einen vorbereiteten Text über Schulgrößen zusammenzufassen, und anschließend nach Quellen gefragt. Es lieferte Verweise auf Forschung und Veröffentlichungen, die nicht existieren, ein Effekt, der Halluzination genannt wird.
Wie sie vorgegangen sind
Der von der KI geschriebene Text und die Verweise gelangten ins Konsultationsdokument, ohne von den üblichen Qualitätskontrollen bemerkt zu werden. In der Liste genannte Professorinnen und Professoren sagten, sie hätten die ihnen zugeschriebenen Werke nie verfasst. Die Verwaltungsspitze der Kommune sagte, Menschen hätten die Wissensgrundlage geschrieben und KI sei nur als Werkzeug genutzt worden. Die Kommune räumte ein, dass die Quellen nicht existierten, entschuldigte sich und setzte die Konsultation für ein halbes Jahr aus. Danach beauftragte sie PwC, das Projekt und seinen Einsatz von KI zu prüfen.
Ergebnisse
Das Scheitern hatte reale Kosten. Die Lokalzeitung iTromsø fand nur sieben von 18 aufgeführten Quellen nachverfolgbar. Die Kommune zog den Vorschlag zurück und holte eine externe Prüfung ein. PwC legte seinen Bericht am 2. Juli 2025 vor. Er bestätigte, dass sieben Quellen im Forschungskapitel von der KI erfunden wurden. Er fand keine Hinweise, dass die Fehler den Vorschlag veränderten, sagte aber, sie könnten das Vertrauen beschädigen.
Was schiefgelaufen ist
PwC stellte fest, dass die Kommune keine KI-Strategie, unklare Zuständigkeit für KI, Richtlinien ohne benannte zugelassene Systeme und keine Schulung für Beschäftigte hatte. Der KI-erzeugte Text wurde nicht qualitätsgeprüft und nicht als KI-erzeugt gekennzeichnet. PwC kam zu dem Schluss, die Kommune sei nicht reif genug, um KI einzuführen.
Was Sie übernehmen können
Bevor Beschäftigte einen allgemeinen Chatbot für öffentliche Dokumente nutzen, legen Sie fest, welche Werkzeuge erlaubt sind, verlangen Sie, dass eine Person jede Quelle prüft, und kennzeichnen Sie KI-erzeugten Text.
Erkenntnisse für Ihr Projekt
Lassen Sie Beschäftigte nie einen Chatbot nach Quellen fragen und diese einfach einfügen. Behandeln Sie jede von einer KI gelieferte Referenz als ungeprüft, bis eine Person das Original gefunden hat.
Legen Sie schriftlich fest, welche KI-Werkzeuge Beschäftigte nutzen dürfen, bevor sie sie nutzen. PwC stellte fest, dass Tromsø keine KI-Strategie, unklare Zuständigkeiten und Regeln ohne benannte zugelassene Systeme hatte.
Schulen Sie Beschäftigte und kennzeichnen Sie KI-geschriebene Texte. PwC stellte fest, dass Beschäftigte sich alles selbst beibringen mussten und der erzeugte Text weder geprüft noch als KI-erzeugt gekennzeichnet wurde.
Bauen Sie bei Papieren mit hohem Gewicht eine Kontrolle ein. Ein öffentliches Konsultationsdokument braucht eine benannte Prüfperson, die bestätigt, dass jede zitierte Quelle existiert.
Einschränkungen
- Dies ist ein Fehlerfall. Die Kommune veröffentlichte kein Ergebnis der KI. Die Quellen sind die eigene Seite der Kommune, eine von ihr beauftragte Prüfung durch PwC und Medienberichte.
- Die Zahl der nicht überprüfbaren Quellen unterscheidet sich je nach Quelle. Die Zeitungsprüfung fand sieben von 18 Einträgen nachverfolgbar. PwC listet sieben erfundene Quellen in einem Kapitel auf. Die Zählungen beider Quellen werden hier weder kombiniert noch neu berechnet.
- Der Artikel von digi.no zitiert nur eine Person mit Professur und eine Person aus der Forschung, die ChatGPT vermuten. Der PwC-Bericht bestätigt es und gibt an, es sei hauptsächlich von privaten Konten aus genutzt worden, und die Kommune habe teils einzelne Konten bei externen Anbietern bezahlt, nachdem eine Führungskraft zugestimmt hatte. Es handelt sich um eine Nutzung durch Beschäftigte, zu deren Ausprobieren die Projektgruppe ermutigt worden war.
- PwC fand keine Hinweise darauf, dass die erfundenen Quellen die Schlussfolgerung des Vorschlags beeinflussten, weil die Richtung bereits durch einen Ratsbeschluss von 2021 vorgegeben war, wenn die Fehler auch das Vertrauen in die Kommune mindern könnten.
- PwC sagt, seine Beschreibungen und Bewertungen seien seine eigenen, und die KI-Richtlinie sei mitten im Projekt aufgesetzt worden, sodass unklar ist, ob sie galt, als ChatGPT genutzt wurde.
- Der PwC-Bericht lieferte auf pwc.no eine Zugriffssperre und wurde von einer Webarchiv-Kopie gelesen. Als Einsatzdatum gilt der Monat, in dem der Vorschlag in die Konsultation ging. Die Seite der Kommune druckt "Publisert 27. jun 2025" („veröffentlicht am 27. Juni 2025“), zuletzt aktualisiert am 2. Juli 2025, und dieses Datum wird verwendet. Die Zahl von 1,2 Millionen Kroner ist ein Medienbericht, nicht von PwC oder der Kommune.
Quellen
- Skandalen i Tromsø: Kommunen brukte kilder som KI hadde diktet opp
Digi.no (NTB) · 2025-03-28 · Nachrichten · digi.no
- Evaluering av bruk av kunstig intelligens i Tromsø kommune
PwC (commissioned by Tromsø kommune) · 2025-06-30 · Behördliche Meldung · pwc.no
- KI-konklusjon klar: Tromsø kommune var ikke moden for å ta i bruk KI
NRK Troms og Finnmark · 2025-07-02 · Nachrichten · nrk.no
- Her er rapporten om KI-bruk og barnehage- og skolestruktur
Tromsø kommune · 2025-06-27 · Pressemitteilung · tromso.kommune.no
In eigenen Worten aus den oben genannten Quellen zusammengefasst. Einen Fehler entdeckt? Siehe Korrekturen.