Tradotto dall'originale inglese. Dati e fonti restano invariati. Leggi l'originale in inglese
City of New York (MyCity business chatbot)
New York chiude il chatbot MyCity per le imprese dopo risposte che potevano spingere le aziende a violare la legge
La città di New York ha lanciato nell'autunno 2023 un chatbot di IA per rispondere alle domande dei titolari d'impresa sulle regole cittadine. I test di The Markup e THE CITY hanno mostrato che dava risposte che avrebbero portato a condotte illegali. Il nuovo sindaco lo ha definito inutilizzabile, ha citato un costo di circa mezzo milione di dollari, e la città lo ha ritirato a febbraio 2026.
Dati chiave
Copiati esattamente dalle fonti. Copiate qualsiasi dato insieme alla sua citazione.
circa mezzo milione di dollari
Costo del chatbot per l'amministrazione, secondo il sindaco Mamdani1
quasi 600.000 dollari
Costo riportato per realizzare le fondamenta del bot1
Cosa è servito
Le fonti non rendono noti costi, dimensioni del team e tempi.
Il problema
La città di New York voleva offrire ai titolari d'impresa un modo semplice per consultare regole e regolamenti cittadini. Il chatbot faceva parte di MyCity, un progetto pensato per semplificare l'accesso ai servizi pubblici.
Cosa hanno costruito
La città ha lanciato il chatbot MyCity nell'autunno 2023, sotto l'amministrazione Adams. È stato costruito sulla piattaforma cloud di Microsoft. Il progetto è stato criticato perché si appoggiava a fornitori esterni.
Come ci sono riusciti
Le fonti forniscono pochi dettagli tecnici. Dopo le inchieste di The Markup e THE CITY, la città ha aggiunto avvisi che dicevano agli utenti di non considerare le risposte come consulenza legale o professionale. Ha migliorato alcune risposte e sembra aver limitato i tipi di domande accettate dal bot. I visitatori dovevano accettare i limiti del bot prima di usarlo.
Risultati
I test di The Markup e THE CITY nel 2024 hanno rilevato che il bot dava risposte sicure ma sbagliate su temi ad alto rischio. Suggeriva che i proprietari potessero discriminare gli inquilini con voucher Section 8 e che le attività potessero rifiutare il contante nonostante una legge cittadina del 2020. Non conosceva nemmeno il salario minimo. A gennaio 2026 il sindaco Zohran Mamdani ha definito il bot "functionally unusable" (traduzione: «di fatto inutilizzabile») e lo ha indicato come un risparmio. Il 4 febbraio 2026 la città lo ha ritirato, dicendo che il suo "beta test has ended" (traduzione: «test beta è terminato»).
Cosa è andato storto
I consigli del bot, se seguiti, avrebbero portato le imprese a un comportamento illegale, come trattenere una parte delle mance dei dipendenti. L'amministrazione ha promesso correzioni, ma i problemi hanno continuato ad attirare l'attenzione della stampa e l'amministrazione successiva ha chiuso il progetto.
Lezioni per il vostro progetto
Testare un assistente rivolto al pubblico su domande ad alto rischio prima del lancio, soprattutto su tutto ciò che tocca la legge. I test indipendenti hanno trovato risposte che avrebbero portato gli utenti a violarla.
Non affidarsi agli avvisi per limitare il rischio. La città ha aggiunto avvertenze e ristretto le domande a cui il bot rispondeva, e il bot è stato comunque chiuso.
Tracciare il costo di esercizio completo fin dall'inizio. La fonte dice che non era chiaro quanto costasse mantenere il bot.
Prevedere un punto di verifica e una via d'uscita. La città ha chiuso il progetto come test beta dopo un cambio di amministrazione.
Avvertenze
- Entrambe le cifre di costo sono dichiarazioni alla stampa. Una è del sindaco, l'altra è riportata con la parola "reportedly" (secondo quanto riferito). Le fonti dicono che il costo di manutenzione non è chiaro.
- Le fonti non nominano il modello di IA. The Markup dice che il bot è stato costruito sulla piattaforma cloud di Microsoft, e GovTech che l'interfaccia veniva da Microsoft ed era basata su OpenAI. Nessuna delle due fonti usa il termine IA generativa o modello linguistico di grandi dimensioni, quindi il tipo di IA è dedotto da quella descrizione e dalle risposte a testo libero del bot.
- The Markup indica il lancio solo come autunno 2023. Si usa ottobre 2023 perché GovTech, datato 16 ottobre 2023, riportava il chatbot come appena lanciato; il giorno esatto dell'avvio non è indicato.
- L'articolo descrive i test del 2024 di The Markup e THE CITY. Non fornisce risultati di test successivi.
Fonti
- Mamdani to kill the NYC AI chatbot we caught telling businesses to break the law
The Markup · 2026-01-30 · Notizia · themarkup.org
- NYC Releases AI Action Plan, Business-Focused AI Chatbot
GovTech · 2023-10-16 · Notizia · govtech.com
Riassunto con parole nostre a partire dalle fonti sopra indicate. Avete notato un errore? Consultate le rettifiche.