Traduit de l’original anglais. Les chiffres et les sources sont inchangés. Lire l’original en anglais
City of New York (MyCity business chatbot)
New York ferme son chatbot MyCity pour entreprises, qui donnait des réponses pouvant conduire des sociétés à enfreindre la loi
La ville de New York a lancé à l’automne 2023 un chatbot d’IA pour répondre aux questions des chefs d’entreprise sur les règles municipales. Les tests de The Markup et de THE CITY ont montré qu’il donnait des réponses menant à des pratiques illégales. Le nouveau maire l’a jugé inutilisable, a cité un coût d’environ un demi-million de dollars, et la ville l’a retiré en février 2026.
Chiffres clés
Repris tels quels des sources. Copiez n’importe quel chiffre avec sa citation.
environ un demi-million de dollars
Coût du chatbot pour l’administration, selon le maire Mamdani1
près de 600 000 dollars
Coût rapporté de la conception des fondations du bot1
Ce que cela a demandé
Le coût, la taille de l’équipe et le calendrier ne sont pas communiqués dans les sources.
Le problème
La ville de New York voulait offrir aux chefs d’entreprise un moyen simple de vérifier les règles et réglementations municipales. Le chatbot faisait partie de MyCity, un projet destiné à simplifier l’accès aux services publics.
Ce qu’ils ont construit
La ville a lancé le chatbot MyCity à l’automne 2023, sous l’administration Adams. Il a été construit sur la plateforme cloud de Microsoft. Le projet a été critiqué pour son recours à des prestataires extérieurs.
Comment ils s’y sont pris
Les sources donnent peu de détails techniques. Après les enquêtes de The Markup et de THE CITY, la ville a ajouté des avertissements demandant aux utilisateurs de ne pas considérer les réponses comme des conseils juridiques ou professionnels. Elle a amélioré certaines réponses et semble avoir limité les types de questions acceptées par le bot. Les visiteurs devaient accepter les limites du bot avant de l’utiliser.
Résultats
Les tests de The Markup et de THE CITY en 2024 ont montré que le bot donnait des réponses assurées mais fausses sur des sujets à fort enjeu. Il laissait entendre que des propriétaires pouvaient discriminer des locataires bénéficiant de bons Section 8, et que des commerces pouvaient refuser les paiements en espèces malgré une loi municipale de 2020. Il ne connaissait pas non plus le salaire minimum. En janvier 2026, le maire Zohran Mamdani a qualifié le bot de "functionally unusable" (traduction : « inutilisable en pratique ») et l’a cité parmi les économies à réaliser. Le 4 février 2026, la ville l’a retiré en disant que son "beta test has ended" (traduction : « le test bêta est terminé »).
Ce qui a mal tourné
Les conseils du bot, s’ils étaient suivis, conduisaient les entreprises à un comportement illégal, par exemple prélever une part des pourboires des employés. L’administration a promis des correctifs, mais les problèmes ont continué d’attirer l’attention de la presse, et l’administration suivante a mis fin au projet.
Enseignements pour votre projet
Tester un assistant public sur les questions à fort enjeu avant le lancement, surtout tout ce qui touche au droit. Des tests indépendants ont trouvé des réponses qui poussaient les utilisateurs à enfreindre la loi.
Ne pas compter sur les avertissements pour limiter le risque. La ville a ajouté des mises en garde et réduit les questions auxquelles le bot répondait, et il a quand même été arrêté.
Suivre le coût de fonctionnement complet dès le départ. La source indique que le coût de maintenance restait flou.
Prévoir un point de revue et une sortie. La ville a mis fin au projet, présenté comme un test bêta, après un changement d’administration.
Réserves
- Les deux chiffres de coût sont des déclarations à la presse. L’un est celui du maire, l’autre est rapporté avec le mot « reportedly » (selon les informations disponibles). Les sources précisent que le coût de maintenance est flou.
- Les sources ne nomment pas le modèle d’IA. The Markup indique que le bot a été construit sur la plateforme cloud de Microsoft, et GovTech que l’interface venait de Microsoft et reposait sur OpenAI. Aucune des deux sources n’emploie les termes IA générative ou grand modèle de langage : le type d’IA est donc déduit de cette description et des réponses en texte libre du bot.
- The Markup ne donne le lancement que comme l’automne 2023. Octobre 2023 est retenu parce que GovTech, daté du 16 octobre 2023, présentait le chatbot comme venant d’être lancé ; le jour exact de la mise en service n’est pas indiqué.
- L’article décrit les tests de 2024 menés par The Markup et THE CITY. Il ne donne pas de résultats de tests ultérieurs.
Sources
- Mamdani to kill the NYC AI chatbot we caught telling businesses to break the law
The Markup · 2026-01-30 · Presse · themarkup.org
- NYC Releases AI Action Plan, Business-Focused AI Chatbot
GovTech · 2023-10-16 · Presse · govtech.com
Résumé dans nos propres mots à partir des sources ci-dessus. Une erreur ? Consultez les corrections.