Przetłumaczono z angielskiego oryginału. Liczby i źródła pozostają bez zmian. Przeczytaj angielski oryginał
Anysphere (Cursor)
Bot wsparcia AI Cursora wymyśla zasadę jednego urządzenia, a firma publicznie się z niej wycofuje
W kwietniu 2025 roku bot wsparcia AI powiedział użytkownikom edytora kodu Cursor, że obowiązuje zasada jednego urządzenia na subskrypcję. Nie obowiązywała. Współzałożyciel przeprosił, zwrócił pieniądze programiście, który zgłosił sprawę, i zaczął oznaczać odpowiedzi AI w e-mailach wsparcia.
Kluczowe liczby
Przepisane dokładnie ze źródeł. Skopiuj każdą liczbę wraz z przypisem.
zwrot pieniędzy
Efekt dla programisty, który zgłosił problem1
teraz wyraźnie oznaczane
Status odpowiedzi napisanych przez AI w e-mailach wsparcia Cursora po incydencie1
Ile to kosztowało
Koszt, wielkość zespołu i harmonogram nie zostały ujawnione w źródłach.
Problem
Cursor tworzy edytor kodu oparty na AI. W kwietniu 2025 roku niektórzy programiści zauważyli, że są wylogowywani, gdy przełączają się między komputerami. Napisali do wsparcia z pytaniem, dlaczego.
Co zbudowano
Cursor używał bota AI, przedstawianego klientom pod imieniem „Sam”, jako pierwszego rozmówcy we wsparciu e-mailowym. Źródła nie mówią, na jakim modelu działał.
Jak to zrobiono
Firma powiedziała, że stosuje odpowiedzi wspomagane przez AI jako pierwszy filtr wsparcia e-mailowego. Użytkownik, który zapytał o wylogowania, dostał e-mail z informacją, że Cursor jest zaprojektowany do pracy z jednym urządzeniem na subskrypcję. Takiej zasady nie było. Truell powiedział, że firma niedawno zmieniła zabezpieczenia sesji i sprawdza, czy to powoduje wylogowania. Później powiedział, że problem z wylogowywaniem, już naprawiony, wynikał najwyraźniej z sytuacji wyścigu (race condition) przy wolnych połączeniach, która tworzyła niechciane sesje.
Co poszło nie tak
Użytkownicy uznali wymyśloną zasadę za prawdziwą. Niektórzy zagrozili rezygnacją, a historia rozeszła się na Reddicie i Hacker News. Współzałożyciel Michael Truell napisał "we have no such policy" (tłumaczenie: „nie mamy takiej polityki”) i nazwał odpowiedź nieprawidłową odpowiedzią bota wsparcia AI z pierwszej linii. Incydent powszechnie odczytano jako ostrzeżenie przed halucynacją, czyli sytuacją, w której AI z pewnością siebie podaje fałszywe informacje.
Wyniki
Firma przeprosiła, zwróciła pieniądze programiście, który zgłosił problem, i oznajmiła, że problem z wylogowywaniem został naprawiony. Sprawiła też, że odpowiedzi AI w e-mailach wsparcia są wyraźnie oznaczone jako takie. Jedna błędna odpowiedź bota wywołała problem z zaufaniem w firmie, która sprzedaje narzędzia AI.
Wnioski dla Twojego projektu
Od pierwszego dnia oznaczajcie odpowiedzi AI jako takie. Cursor dodał oznaczenia dopiero wtedy, gdy klienci uznali wymyśloną zasadę za prawdziwą politykę.
Zachowajcie udział człowieka przy odpowiedziach, które podają zasady, opłaty lub limity. Pewna siebie, błędna odpowiedź o polityce firmy prowadzi do rezygnacji z usługi.
Oprzyjcie bota wsparcia na rzeczywistych dokumentach polityki i przed uruchomieniem przetestujcie go pytaniami o warunki.
Szukajcie prawdziwej przyczyny skargi klienta. Tu użytkowników wylogowywał błąd w oprogramowaniu, a bot wymyślił zasadę, by to wyjaśnić.
Zastrzeżenia
- Wypowiedzi firmy pochodzą z wpisów współzałożyciela Michaela Truella na Reddicie i Hacker News, cytowanych przez The Register za pośrednictwem Slashdot. Tych wpisów nie czytano bezpośrednio.
- Nie podano żadnego wyniku liczbowego. Rezultatem jest publiczne wycofanie się, jeden zwrot pieniędzy i zmiana oznaczania.
- eWeek pisze, że poszkodowanym użytkownikom zwrócono pieniądze. Slashdot pisze, że zwrot dostał programista, który zgłosił problem. Zakres zwrotów jest niejasny.
- Żadne źródło nie wskazuje modelu AI ani nie mówi, jak zbudowano bota. Etykieta asystenta z wyszukiwaniem jest najbliższa dla bota wsparcia, ale nie jest potwierdzoną architekturą.
- Żadne źródło nie podaje daty uruchomienia bota. Datą wdrożenia jest miesiąc incydentu.
Źródła
- Cursor AI's Own Support Bot Hallucinated Its Usage Policy
Slashdot (quoting The Register) · 2025-04-21 · Wiadomości · tech.slashdot.org
- AI Chatbot Gone Rogue: Cursor Users Misled by Fabricated Policy
eWeek · 2025-04-22 · Wiadomości · eweek.com
Streszczone własnymi słowami na podstawie powyższych źródeł. Zauważyłeś błąd? Zobacz sprostowania.