De AI-supportbot van Cursor verzint een regel van één apparaat en het bedrijf draait die publiekelijk terug

Het probleem

Cursor maakt een code-editor met AI. In april 2025 merkten enkele ontwikkelaars dat ze werden uitgelogd als ze van machine wisselden. Ze schreven de support aan om te vragen waarom.

Wat ze bouwden

Cursor gebruikte een AI-bot, aan klanten gepresenteerd onder de naam "Sam", als eerste aanspreekpunt voor support per e-mail. De bronnen zeggen niet op welk model hij draaide.

Hoe ze het aanpakten

Het bedrijf zei AI-ondersteunde antwoorden te gebruiken als eerste filter voor support per e-mail. Een gebruiker die naar de uitlogacties vroeg, kreeg een e-mail waarin stond dat Cursor was ontworpen om met één apparaat per abonnement te werken. Dat beleid bestond niet. Truell zei dat het bedrijf onlangs de sessiebeveiliging had gewijzigd en nagaf of dat de uitlogacties veroorzaakte. Later zei hij dat het uitlogprobleem, inmiddels verholpen, leek te komen door een race condition bij langzame verbindingen die ongewenste sessies aanmaakte.

Wat er misging

Gebruikers namen de verzonnen regel voor echt aan. Sommigen dreigden op te zeggen, en het verhaal verspreidde zich op Reddit en Hacker News. Medeoprichter Michael Truell schreef "we have no such policy" (vertaling: "dat beleid hebben we niet") en noemde het antwoord een onjuiste reactie van een AI-supportbot in de frontlinie. Het incident werd breed gelezen als waarschuwing voor hallucinatie, waarbij een AI met overtuiging onwaarheden beweert.

Resultaten

Het bedrijf bood excuses aan, betaalde de ontwikkelaar die het probleem aankaartte terug en zei dat het uitlogprobleem was opgelost. Het liet AI-antwoorden in supportmails ook duidelijk als zodanig labelen. Eén fout antwoord van de bot veroorzaakte een vertrouwensprobleem bij een bedrijf dat AI-hulpmiddelen verkoopt.