Lumıary

Przetłumaczono z angielskiego oryginału. Liczby i źródła pozostają bez zmian. Przeczytaj angielski oryginał

Potwierdzone niezależnieDziała od paź 2023Dodano paź 2026

City of New York (MyCity business chatbot)

Nowy Jork wyłącza chatbota MyCity dla firm po odpowiedziach, które mogły skłonić przedsiębiorstwa do łamania prawa

Miasto Nowy Jork uruchomiło jesienią 2023 roku chatbota AI odpowiadającego na pytania przedsiębiorców o przepisy miejskie. Testy The Markup i THE CITY pokazały, że udzielał odpowiedzi prowadzących do nielegalnych działań. Nowy burmistrz nazwał go bezużytecznym, podał koszt około pół miliona dolarów, a miasto wyłączyło go w lutym 2026 roku.

Poprawić doświadczenia klientówPoprawić jakość, ograniczyć ryzyko

Kluczowe liczby

Przepisane dokładnie ze źródeł. Skopiuj każdą liczbę wraz z przypisem.

około pół miliona dolarów

Koszt chatbota dla administracji, według burmistrza Mamdaniego1

prawie 600 000 dolarów

Podawany koszt zbudowania podstaw bota1

Ile to kosztowało

KosztNie ujawniono
ZespółNie ujawniono
HarmonogramNie ujawniono

Koszt, wielkość zespołu i harmonogram nie zostały ujawnione w źródłach.

Problem

Miasto Nowy Jork chciało dać przedsiębiorcom prosty sposób sprawdzania przepisów i regulacji miejskich. Chatbot był częścią MyCity, projektu mającego uprościć dostęp do usług publicznych.

Co zbudowano

Miasto uruchomiło chatbota MyCity jesienią 2023 roku, za administracji Adamsa. Zbudowano go na platformie chmurowej Microsoftu. Projekt krytykowano za poleganie na zewnętrznych wykonawcach.

Jak to zrobiono

Źródła podają niewiele szczegółów technicznych. Po publikacjach The Markup i THE CITY miasto dodało zastrzeżenia, by użytkownicy nie traktowali odpowiedzi jako porady prawnej ani fachowej. Poprawiło część odpowiedzi i, jak się wydaje, ograniczyło rodzaje pytań, które bot przyjmował. Odwiedzający musieli zaakceptować ograniczenia bota przed skorzystaniem z niego.

Wyniki

Testy The Markup i THE CITY z 2024 roku wykazały, że bot udzielał pewnych siebie, lecz błędnych odpowiedzi w newralgicznych tematach. Sugerował, że wynajmujący mogą dyskryminować najemców z bonami Section 8 i że firmy mogą odmawiać gotówki mimo miejskiego prawa z 2020 roku. Nie znał też płacy minimalnej. W styczniu 2026 roku burmistrz Zohran Mamdani nazwał bota "functionally unusable" (tłumaczenie: „w praktyce bezużyteczny”) i wskazał go jako oszczędność. 4 lutego 2026 roku miasto go wyłączyło, mówiąc, że jego "beta test has ended" (tłumaczenie: „test beta dobiegł końca”).

Co poszło nie tak

Rady bota, gdyby za nimi podążać, prowadziłyby firmy do nielegalnych działań, takich jak zatrzymywanie części napiwków pracowników. Administracja obiecała poprawki, ale problemy nadal przyciągały uwagę prasy, a następna administracja zakończyła projekt.

Wnioski dla Twojego projektu

  1. Warto przetestować publicznego asystenta na newralgicznych pytaniach przed startem, zwłaszcza na wszystkim, co dotyczy prawa. Niezależne testy znalazły odpowiedzi, które skłoniłyby użytkowników do jego łamania.

  2. Warto nie polegać na zastrzeżeniach, by ograniczyć ryzyko. Miasto dodało ostrzeżenia i zawęziło pytania, na które bot odpowiadał, a bot i tak został wyłączony.

  3. Warto śledzić pełny koszt utrzymania od początku. Źródło mówi, że nie było jasne, ile kosztowało utrzymanie bota.

  4. Warto zaplanować punkt przeglądu i ścieżkę wyjścia. Miasto zakończyło projekt jako test beta po zmianie administracji.

Zastrzeżenia

  • Obie kwoty kosztów to wypowiedzi dla prasy. Jedna pochodzi od burmistrza, druga jest podawana ze słowem "reportedly" (podobno). Źródła mówią, że koszt utrzymania jest niejasny.
  • Źródła nie wymieniają modelu AI. The Markup pisze, że bota zbudowano na platformie chmurowej Microsoftu, a GovTech, że interfejs pochodził od Microsoftu i opierał się na OpenAI. Żadne ze źródeł nie używa określenia generatywna AI ani duży model językowy, więc rodzaj AI wywnioskowano z tego opisu i z odpowiedzi bota w wolnym tekście.
  • The Markup podaje start tylko jako jesień 2023. Przyjęto październik 2023, ponieważ GovTech z datą 16 października 2023 opisywał chatbota jako świeżo uruchomionego; dokładny dzień startu nie jest podany.
  • Artykuł opisuje testy The Markup i THE CITY z 2024 roku. Nie podaje wyników późniejszych testów.

Źródła

  1. Mamdani to kill the NYC AI chatbot we caught telling businesses to break the law

    The Markup · 2026-01-30 · Wiadomości · themarkup.org

  2. NYC Releases AI Action Plan, Business-Focused AI Chatbot

    GovTech · 2023-10-16 · Wiadomości · govtech.com

Streszczone własnymi słowami na podstawie powyższych źródeł. Zauważyłeś błąd? Zobacz sprostowania.

Powiązane przypadki