Traducido del original en inglés. Las cifras y las fuentes no cambian. Leer el original en inglés
City of New York (MyCity business chatbot)
Nueva York cierra su chatbot MyCity para negocios tras dar respuestas que podían llevar a las empresas a infringir la ley
La ciudad de Nueva York lanzó en otoño de 2023 un chatbot de IA para responder a las preguntas de los empresarios sobre las normas municipales. Las pruebas de The Markup y THE CITY mostraron que daba respuestas que conducirían a conductas ilegales. El nuevo alcalde lo calificó de inutilizable, citó un coste de alrededor de medio millón de dólares, y la ciudad lo retiró en febrero de 2026.
Cifras clave
Copiadas literalmente de las fuentes. Copie cualquier cifra con su cita.
alrededor de medio millón de dólares
Coste del chatbot para la administración, según el alcalde Mamdani1
casi 600.000 dólares
Coste comunicado de construir los cimientos del bot1
Qué requirió
Las fuentes no divulgan el coste, el tamaño del equipo ni los plazos.
El problema
La ciudad de Nueva York quería que los empresarios tuvieran una forma sencilla de consultar las normas y reglamentos municipales. El chatbot formaba parte de MyCity, un proyecto pensado para simplificar el acceso a los servicios públicos.
Qué construyeron
La ciudad lanzó el chatbot MyCity en otoño de 2023, bajo la administración Adams. Se construyó sobre la plataforma en la nube de Microsoft. El proyecto recibió críticas por depender de contratistas externos.
Cómo lo hicieron
Las fuentes dan pocos detalles técnicos. Tras los reportajes de The Markup y THE CITY, la ciudad añadió avisos que decían a los usuarios que no trataran las respuestas como asesoramiento jurídico o profesional. Mejoró algunas respuestas y parece que limitó los tipos de preguntas que el bot aceptaba. Los visitantes debían aceptar los límites del bot antes de usarlo.
Resultados
Las pruebas de The Markup y THE CITY en 2024 comprobaron que el bot daba respuestas seguras pero erróneas sobre temas de alto riesgo. Sugirió que los propietarios podían discriminar a los inquilinos con vales de la Sección 8 y que los negocios podían rechazar el efectivo pese a una ley municipal de 2020. Tampoco conocía el salario mínimo. En enero de 2026, el alcalde Zohran Mamdani calificó el bot de "functionally unusable" (traducción: «inutilizable en la práctica») y lo citó como un ahorro. El 4 de febrero de 2026 la ciudad lo retiró, diciendo que su "beta test has ended" (traducción: «la prueba beta ha terminado»).
Qué salió mal
Los consejos del bot, de seguirse, llevarían a las empresas a un comportamiento ilegal, como quedarse con parte de las propinas de los empleados. La administración prometió correcciones, pero los problemas siguieron atrayendo la atención de la prensa y la administración sucesora puso fin al proyecto.
Lecciones para su proyecto
Pruebe un asistente de cara al público con preguntas de alto riesgo antes del lanzamiento, especialmente en todo lo que toque a la ley. Las pruebas independientes encontraron respuestas que llevarían a los usuarios a infringirla.
No confíe en los avisos legales para limitar el riesgo. La ciudad añadió advertencias y acotó las preguntas que el bot respondía, y aun así se cerró.
Siga el coste total de funcionamiento desde el principio. La fuente dice que no estaba claro lo que costaba mantener el bot.
Prevea un punto de revisión y una salida. La ciudad puso fin al proyecto, presentado como prueba beta, tras un cambio de administración.
Salvedades
- Las dos cifras de coste son declaraciones a la prensa. Una es del alcalde; la otra se comunica con la palabra "reportedly" (según se informa). Las fuentes dicen que el coste de mantenimiento no está claro.
- Las fuentes no nombran el modelo de IA. The Markup dice que el bot se construyó sobre la plataforma en la nube de Microsoft, y GovTech que la interfaz procedía de Microsoft y se apoyaba en OpenAI. Ninguna de las dos fuentes usa el término IA generativa ni modelo de lenguaje de gran tamaño, así que el tipo de IA se deduce de esa descripción y de las respuestas de texto libre del bot.
- The Markup da el lanzamiento solo como otoño de 2023. Se usa octubre de 2023 porque GovTech, con fecha del 16 de octubre de 2023, informaba del chatbot como recién lanzado; no se indica el día exacto de la puesta en marcha.
- El artículo describe las pruebas de 2024 de The Markup y THE CITY. No da resultados de pruebas posteriores.
Fuentes
- Mamdani to kill the NYC AI chatbot we caught telling businesses to break the law
The Markup · 2026-01-30 · Noticia · themarkup.org
- NYC Releases AI Action Plan, Business-Focused AI Chatbot
GovTech · 2023-10-16 · Noticia · govtech.com
Resumido con nuestras propias palabras a partir de las fuentes anteriores. ¿Ha detectado un error? Consulte correcciones.