Übersetzt aus dem englischen Original. Zahlen und Quellen sind unverändert. Englisches Original lesen
City of New York (MyCity business chatbot)
New York City schaltet seinen MyCity-Chatbot für Unternehmen ab, weil er Antworten gab, die Firmen zu Rechtsverstößen verleiten konnten
New York City veröffentlichte im Herbst 2023 einen KI-Chatbot, der Fragen von Unternehmern zu städtischen Regeln beantworten sollte. Tests von The Markup und THE CITY zeigten, dass er Antworten gab, die zu rechtswidrigem Verhalten führen würden. Der neue Bürgermeister nannte ihn unbrauchbar, bezifferte die Kosten auf etwa eine halbe Million Dollar, und die Stadt nahm ihn im Februar 2026 vom Netz.
Kennzahlen
Wortgetreu aus den Quellen übernommen. Kopieren Sie jede Zahl mit ihrer Quellenangabe.
etwa eine halbe Million Dollar
Kosten des Chatbots für die Verwaltung, laut Bürgermeister Mamdani1
knapp 600.000 Dollar
Gemeldete Kosten für den Aufbau der Grundlagen des Bots1
Was es erforderte
Kosten, Teamgröße und Zeitplan wurden in den Quellen nicht veröffentlicht.
Das Problem
New York City wollte Unternehmern eine einfache Möglichkeit geben, städtische Regeln und Vorschriften nachzuschlagen. Der Chatbot gehörte zu MyCity, einem Projekt, das den Zugang zu Verwaltungsleistungen vereinfachen sollte.
Was sie gebaut haben
Die Stadt veröffentlichte den MyCity-Chatbot im Herbst 2023 unter der Verwaltung von Bürgermeister Adams. Er wurde auf der Cloud-Plattform von Microsoft gebaut. Das Projekt wurde kritisiert, weil es auf externe Auftragnehmer setzte.
Wie sie vorgegangen sind
Die Quellen nennen wenige technische Details. Nach der Berichterstattung von The Markup und THE CITY fügte die Stadt Haftungshinweise hinzu, die Nutzer auffordern, Antworten nicht als Rechts- oder Fachberatung zu verstehen. Sie verbesserte einzelne Antworten und schien die Arten von Fragen zu begrenzen, die der Bot annahm. Besucher mussten die Grenzen des Bots akzeptieren, bevor sie ihn nutzten.
Ergebnisse
Tests von The Markup und THE CITY im Jahr 2024 ergaben, dass der Bot bei Themen mit hohem Risiko selbstsicher falsche Antworten gab. Er legte nahe, Vermieter dürften Mieter mit Section-8-Gutscheinen diskriminieren und Geschäfte dürften trotz eines städtischen Gesetzes von 2020 Bargeld ablehnen. Auch den Mindestlohn kannte er nicht. Im Januar 2026 nannte Bürgermeister Zohran Mamdani den Bot "functionally unusable" (Übersetzung: "praktisch unbrauchbar") und führte ihn als Einsparung auf. Am 4. Februar 2026 nahm die Stadt ihn vom Netz und erklärte, sein "beta test has ended" (Übersetzung: "Betatest ist beendet").
Was schiefgelaufen ist
Die Ratschläge des Bots hätten, wenn man ihnen gefolgt wäre, Unternehmen zu rechtswidrigem Verhalten geführt, etwa dazu, einen Teil der Trinkgelder der Beschäftigten einzubehalten. Die Verwaltung versprach Korrekturen, doch die Probleme zogen weiter die Aufmerksamkeit der Presse auf sich, und die Nachfolgeverwaltung beendete das Projekt.
Erkenntnisse für Ihr Projekt
Testen Sie einen öffentlichen Assistenten vor dem Start an Fragen mit hohem Risiko, vor allem an allem, was das Recht berührt. Unabhängige Tests fanden Antworten, die Nutzer zu Rechtsverstößen verleiten würden.
Verlassen Sie sich nicht auf Haftungshinweise, um das Risiko zu begrenzen. Die Stadt fügte Warnungen hinzu und engte die Fragen ein, die der Bot beantwortete, und der Bot wurde trotzdem abgeschaltet.
Erfassen Sie die vollen Betriebskosten von Anfang an. Laut Quelle war unklar, was der Bot im Betrieb kostete.
Planen Sie einen Prüfzeitpunkt und einen Ausstieg ein. Die Stadt beendete das Projekt als Betatest nach einem Wechsel der Verwaltung.
Einschränkungen
- Beide Kostenangaben sind Aussagen gegenüber der Presse. Eine stammt vom Bürgermeister, die andere wird mit dem Wort "reportedly" (angeblich) berichtet. Die Quellen sagen, die Wartungskosten seien unklar.
- Die Quellen nennen das KI-Modell nicht. The Markup sagt, der Bot sei auf der Cloud-Plattform von Microsoft gebaut worden, und GovTech, die Oberfläche stamme von Microsoft und beruhe auf OpenAI. Keine der Quellen verwendet den Begriff generative KI oder großes Sprachmodell, die Art der KI wird daher aus dieser Beschreibung und den frei formulierten Antworten des Bots abgeleitet.
- The Markup nennt den Start nur als Herbst 2023. Oktober 2023 wird verwendet, weil GovTech, datiert auf den 16. Oktober 2023, den Chatbot als neu veröffentlicht meldete. Der genaue Starttag wird nicht genannt.
- Der Artikel beschreibt die Tests von The Markup und THE CITY aus dem Jahr 2024. Ergebnisse späterer Tests nennt er nicht.
Quellen
- Mamdani to kill the NYC AI chatbot we caught telling businesses to break the law
The Markup · 2026-01-30 · Nachrichten · themarkup.org
- NYC Releases AI Action Plan, Business-Focused AI Chatbot
GovTech · 2023-10-16 · Nachrichten · govtech.com
In eigenen Worten aus den oben genannten Quellen zusammengefasst. Einen Fehler entdeckt? Siehe Korrekturen.