Vertaald uit het Engelse origineel. De cijfers en bronnen zijn ongewijzigd. Lees het Engelse origineel
City of New York (MyCity business chatbot)
New York City sluit zijn MyCity-chatbot voor bedrijven na antwoorden die bedrijven tot overtredingen van de wet konden brengen
New York City bracht in de herfst van 2023 een AI-chatbot uit om vragen van ondernemers over stedelijke regels te beantwoorden. Tests van The Markup en THE CITY lieten zien dat hij antwoorden gaf die tot onwettig gedrag zouden leiden. De nieuwe burgemeester noemde hem onbruikbaar, noemde kosten van ongeveer een half miljoen dollar, en de stad haalde hem in februari 2026 offline.
Kerncijfers
Letterlijk overgenomen uit de bronnen. Kopieer elk cijfer met bronvermelding.
ongeveer een half miljoen dollar
Kosten van de chatbot voor het bestuur, volgens burgemeester Mamdani1
bijna 600.000 dollar
Gemelde kosten voor het bouwen van de basis van de bot1
Wat het kostte
Kosten, teamgrootte en doorlooptijd zijn in de bronnen niet openbaar gemaakt.
Het probleem
New York City wilde ondernemers een eenvoudige manier geven om stedelijke regels en voorschriften na te gaan. De chatbot was onderdeel van MyCity, een project om de toegang tot overheidsdiensten te stroomlijnen.
Wat ze bouwden
De stad bracht de MyCity-chatbot in de herfst van 2023 uit, onder het bestuur van Adams. Hij werd gebouwd op het cloudplatform van Microsoft. Het project kreeg kritiek omdat het leunde op externe aannemers.
Hoe ze het aanpakten
De bronnen geven weinig technische details. Na de berichtgeving van The Markup en THE CITY voegde de stad disclaimers toe die gebruikers vertellen antwoorden niet als juridisch of professioneel advies te zien. Ze verbeterde enkele antwoorden en leek de soorten vragen te beperken die de bot aannam. Bezoekers moesten de beperkingen van de bot accepteren voordat ze hem gebruikten.
Resultaten
Tests van The Markup en THE CITY in 2024 lieten zien dat de bot stellige maar onjuiste antwoorden gaf over onderwerpen met grote gevolgen. Hij suggereerde dat verhuurders huurders met Section 8-vouchers mochten discrimineren en dat bedrijven contant geld mochten weigeren ondanks een stadswet uit 2020. Ook kende hij het minimumloon niet. In januari 2026 noemde burgemeester Zohran Mamdani de bot "functionally unusable" (vertaling: "in de praktijk onbruikbaar") en voerde hem op als bezuiniging. Op 4 februari 2026 haalde de stad hem offline, met de woorden dat zijn "beta test has ended" (vertaling: "bètatest is afgelopen").
Wat er misging
De adviezen van de bot zouden, als ze werden opgevolgd, bedrijven tot onwettig gedrag brengen, zoals het inhouden van een deel van de fooien van werknemers. Het bestuur beloofde verbeteringen, maar de problemen bleven de aandacht van de pers trekken en het opvolgende bestuur beëindigde het project.
Lessen voor uw project
Test een publieksgerichte assistent vóór de lancering op vragen met grote gevolgen, vooral alles wat de wet raakt. Onafhankelijke tests vonden antwoorden die gebruikers tot overtredingen zouden brengen.
Vertrouw niet op disclaimers om het risico te beperken. De stad voegde waarschuwingen toe en beperkte de vragen die de bot beantwoordde, en de bot werd toch stopgezet.
Houd vanaf het begin de volledige exploitatiekosten bij. De bron zegt dat onduidelijk was wat het onderhoud van de bot kostte.
Plan een evaluatiemoment en een uitgang. De stad beëindigde het project als bètatest na een wisseling van bestuur.
Kanttekeningen
- Beide kostencijfers zijn uitspraken tegenover de pers. Eén is van de burgemeester, het andere wordt gemeld met het woord 'reportedly' (naar verluidt). De bronnen zeggen dat de onderhoudskosten onduidelijk zijn.
- De bronnen noemen het AI-model niet. The Markup zegt dat de bot is gebouwd op het cloudplatform van Microsoft, en GovTech dat de interface van Microsoft kwam en op OpenAI steunde. Geen van beide bronnen gebruikt de term generatieve AI of groot taalmodel, dus het soort AI is afgeleid uit die beschrijving en uit de vrije-tekstantwoorden van de bot.
- The Markup geeft de lancering alleen als herfst 2023. Oktober 2023 wordt gebruikt omdat GovTech, gedateerd 16 oktober 2023, de chatbot als net uitgebracht meldde. De exacte dag van ingebruikname wordt niet genoemd.
- Het artikel beschrijft de tests van The Markup en THE CITY in 2024. Het noemt geen resultaten van latere tests.
Bronnen
- Mamdani to kill the NYC AI chatbot we caught telling businesses to break the law
The Markup · 2026-01-30 · Nieuws · themarkup.org
- NYC Releases AI Action Plan, Business-Focused AI Chatbot
GovTech · 2023-10-16 · Nieuws · govtech.com
In eigen woorden samengevat op basis van de bovenstaande bronnen. Een fout gezien? Zie correcties.