Der KI-Support-Bot von Cursor erfindet eine Ein-Geräte-Regel, und das Unternehmen nimmt sie öffentlich zurück

Das Problem

Cursor stellt einen KI-gestützten Code-Editor her. Im April 2025 stellten einige Entwickler fest, dass sie abgemeldet wurden, wenn sie zwischen Rechnern wechselten. Sie schrieben dem Support, um nach dem Grund zu fragen.

Was sie gebaut haben

Cursor setzte einen KI-Bot, den Kunden unter dem Namen „Sam“ kannten, als ersten Ansprechpartner im E-Mail-Support ein. Die Quellen sagen nicht, auf welchem Modell er lief.

Wie sie vorgegangen sind

Das Unternehmen erklärte, es nutze KI-gestützte Antworten als ersten Filter im E-Mail-Support. Ein Nutzer, der nach den Abmeldungen fragte, erhielt eine E-Mail, laut der Cursor so ausgelegt sei, dass es mit einem Gerät pro Abonnement arbeite. Diese Regel gab es nicht. Truell sagte, das Unternehmen habe kürzlich die Sitzungssicherheit geändert und prüfe, ob dies die Abmeldungen verursacht habe. Später sagte er, das inzwischen behobene Abmeldeproblem scheine von einer Race Condition bei langsamen Verbindungen herzurühren, die unerwünschte Sitzungen erzeugt habe.

Was schiefgelaufen ist

Nutzer hielten die erfundene Regel für echt. Einige drohten mit Kündigung, und die Geschichte verbreitete sich auf Reddit und Hacker News. Mitgründer Michael Truell schrieb "we have no such policy" (Übersetzung: „Eine solche Richtlinie haben wir nicht“) und nannte die Antwort eine falsche Auskunft eines KI-Support-Bots in der ersten Reihe. Der Vorfall wurde weithin als Warnung vor Halluzination verstanden, also davor, dass eine KI mit großer Überzeugung Falsches behauptet.

Ergebnisse

Das Unternehmen entschuldigte sich, erstattete dem Entwickler, der das Problem gemeldet hatte, das Geld und erklärte, das Abmeldeproblem sei behoben. Es kennzeichnet KI-Antworten in Support-E-Mails zudem deutlich als solche. Eine einzige falsche Antwort des Bots schuf ein Vertrauensproblem bei einem Unternehmen, das KI-Werkzeuge verkauft.