Przetłumaczono z angielskiego oryginału. Liczby i źródła pozostają bez zmian. Przeczytaj angielski oryginał
Tromsø kommune
Gmina Tromsø wycofuje propozycję zamknięcia szkół po tym, jak ChatGPT wymyślił źródła badawcze
Pracownicy w Tromsø w Norwegii korzystali z ChatGPT z kont prywatnych, przygotowując rozdział badawczy propozycji z 2025 roku dotyczącej restrukturyzacji szkół i przedszkoli. Źródła, które podał, nie istniały. Gmina przeprosiła, wycofała propozycję, a zamówiony przez nią przegląd PwC uznał, że nie była wystarczająco dojrzała do korzystania z AI.
Kluczowe liczby
Przepisane dokładnie ze źródeł. Skopiuj każdą liczbę wraz z przypisem.
tylko siedem z 18
Pozycje na liście źródeł propozycji, które udało się odnaleźć, w sprawdzeniu lokalnej gazety iTromsø (podanym przez digi.no i NTB)1
7
Źródła w rozdziale 11.4 propozycji, które PwC wymienia i potwierdza jako wymyślone przez AI2
pół roku
Czas, na jaki kierownictwo administracji gminy wstrzymało konsultacje dotyczące propozycji1
Ile to kosztowało
Problem
W lutym 2025 roku gmina Tromsø w północnej Norwegii skierowała do konsultacji publicznych propozycję nowej struktury przedszkoli i szkół, w której osiem szkół miało zostać zamkniętych. Jej baza wiedzy zawierała rozdział badawczy. Wkrótce po publikacji pojawiły się zarzuty, że niektóre z jego źródeł nie istnieją.
Co zbudowano
Nie był to planowany projekt AI. Grupę projektową zachęcano do używania AI, by ułatwić pisanie, a pracownicy korzystali głównie z ChatGPT z kont prywatnych. Według PwC ChatGPT posłużył do streszczenia przygotowanego tekstu o wielkości szkół, a następnie poproszono go o źródła. Podał odniesienia do badań i publikacji, które nie istnieją, co nazywa się halucynacją.
Jak to zrobiono
Tekst i odniesienia napisane przez AI trafiły do dokumentu konsultacyjnego, nie zostały wychwycone przez zwykłe kontrole jakości. Wymienieni na liście profesorowie powiedzieli, że nigdy nie napisali przypisywanych im prac. Kierownictwo administracji gminy stwierdziło, że bazę wiedzy napisali ludzie, a AI była użyta jako narzędzie. Gmina przyznała, że źródła nie istniały, przeprosiła i wstrzymała konsultacje na pół roku. Następnie zleciła PwC przegląd projektu i użycia AI.
Wyniki
Porażka miała realne koszty. Lokalna gazeta iTromsø znalazła tylko siedem z 18 wymienionych źródeł. Gmina wycofała propozycję i zatrudniła zewnętrzny przegląd. PwC przedstawiło swój raport 2 lipca 2025. Potwierdziło, że siedem źródeł w rozdziale badawczym wymyśliła AI. Nie znalazło dowodów, że błędy zmieniły propozycję, ale stwierdziło, że mogą szkodzić zaufaniu.
Co poszło nie tak
PwC stwierdziło, że gmina nie miała strategii AI, jasnej odpowiedzialności za AI, wytycznych wskazujących zatwierdzone systemy ani szkoleń dla pracowników. Tekst wygenerowany przez AI nie był sprawdzany pod kątem jakości i nie został oznaczony jako wygenerowany przez AI. PwC uznało, że gmina nie była wystarczająco dojrzała, by wdrożyć AI.
Co warto powtórzyć
Zanim pracownicy użyją ogólnego chatbota przy dokumentach publicznych, ustalcie, jakie narzędzia są dozwolone, wymagajcie, by człowiek zweryfikował każde źródło, i oznaczajcie tekst wygenerowany przez AI.
Wnioski dla Twojego projektu
Nigdy nie pozwalajcie pracownikom prosić chatbota o źródła i wklejać ich bez sprawdzenia. Każdą referencję podaną przez AI traktujcie jako niezweryfikowaną, dopóki człowiek nie znajdzie oryginału.
Zapiszcie, z jakich narzędzi AI pracownicy mogą korzystać, zanim zaczną z nich korzystać. PwC stwierdziło, że Tromsø nie miało strategii AI, jasnego podziału odpowiedzialności ani zasad wskazujących zatwierdzone systemy.
Szkolcie pracowników i oznaczajcie teksty napisane przez AI. PwC stwierdziło, że pracownicy musieli uczyć się sami, a wygenerowany tekst nie był ani sprawdzany, ani oznaczony jako wygenerowany przez AI.
Wbudujcie kontrolę w dokumenty o wysokiej stawce. Publiczny dokument konsultacyjny wymaga wyznaczonego recenzenta, który potwierdza, że każde cytowane źródło istnieje.
Zastrzeżenia
- To przypadek porażki. Gmina nie opublikowała żadnego wyniku uzyskanego dzięki AI. Źródłami są strona samej gminy, zamówiony przez nią przegląd PwC oraz doniesienia prasowe.
- Liczba źródeł, których nie dało się zweryfikować, różni się w zależności od źródła. Sprawdzenie gazety wykazało siedem z 18 pozycji możliwych do odnalezienia. PwC wymienia siedem wymyślonych źródeł w jednym rozdziale. Liczby z obu źródeł nie są tu łączone ani przeliczane.
- Artykuł digi.no cytuje jedynie osobę z tytułem profesora i osobę prowadzącą badania, które podejrzewają ChatGPT. Raport PwC to potwierdza, wskazując, że korzystano z niego głównie z kont prywatnych, a gmina czasem płaciła za indywidualne konta u zewnętrznych dostawców po zatwierdzeniu przez przełożonego. Jest to użycie przez pracowników, do którego zachęcano grupę projektową.
- PwC nie znalazło dowodów, że wymyślone źródła wpłynęły na wniosek propozycji, ponieważ kierunek wyznaczyła już uchwała rady z 2021 roku, choć błędy mogły obniżyć zaufanie do gminy.
- PwC mówi, że jego opisy i oceny są jego własne, a polityka AI została ustalona w połowie projektu, więc nie jest jasne, czy obowiązywała, gdy używano ChatGPT.
- Raport PwC zwrócił na pwc.no blokadę dostępu i został odczytany z kopii w archiwum internetowym. Datą wdrożenia jest miesiąc, w którym propozycję skierowano do konsultacji. Strona gminy podaje "Publisert 27. jun 2025" („opublikowano 27 czerwca 2025”), ostatnia aktualizacja 2 lipca 2025, i ta data została użyta. Kwota 1,2 miliona kroner pochodzi z doniesienia medialnego, a nie od PwC ani gminy.
Źródła
- Skandalen i Tromsø: Kommunen brukte kilder som KI hadde diktet opp
Digi.no (NTB) · 2025-03-28 · Wiadomości · digi.no
- Evaluering av bruk av kunstig intelligens i Tromsø kommune
PwC (commissioned by Tromsø kommune) · 2025-06-30 · Dokument urzędowy · pwc.no
- KI-konklusjon klar: Tromsø kommune var ikke moden for å ta i bruk KI
NRK Troms og Finnmark · 2025-07-02 · Wiadomości · nrk.no
- Her er rapporten om KI-bruk og barnehage- og skolestruktur
Tromsø kommune · 2025-06-27 · Komunikat prasowy · tromso.kommune.no
Streszczone własnymi słowami na podstawie powyższych źródeł. Zauważyłeś błąd? Zobacz sprostowania.