Traduit de l’original anglais. Les chiffres et les sources sont inchangés. Lire l’original en anglais
Anysphere (Cursor)
Le bot de support IA de Cursor invente une règle d’un seul appareil, et l’entreprise fait marche arrière publiquement
En avril 2025, un bot de support IA a indiqué à des utilisateurs de l’éditeur de code Cursor qu’une règle d’un appareil par abonnement existait. Ce n’était pas le cas. Un cofondateur s’est excusé, a remboursé le développeur à l’origine de l’alerte et a commencé à signaler les réponses de l’IA dans les e-mails de support.
Chiffres clés
Repris tels quels des sources. Copiez n’importe quel chiffre avec sa citation.
remboursé
Issue pour le développeur à l’origine de l’alerte1
désormais clairement signalées
Statut des réponses rédigées par l’IA dans les e-mails de support de Cursor après l’incident1
Ce que cela a demandé
Le coût, la taille de l’équipe et le calendrier ne sont pas communiqués dans les sources.
Le problème
Cursor développe un éditeur de code doté d’IA. En avril 2025, des développeurs se sont retrouvés déconnectés lorsqu’ils passaient d’une machine à l’autre. Ils ont écrit au support pour demander pourquoi.
Ce qu’ils ont construit
Cursor utilisait un bot d’IA, présenté aux clients sous le nom « Sam », comme premier interlocuteur du support par e-mail. Les sources ne disent pas sur quel modèle il fonctionnait.
Comment ils s’y sont pris
L’entreprise a indiqué qu’elle utilisait des réponses assistées par l’IA comme premier filtre du support par e-mail. Un utilisateur qui s’interrogeait sur les déconnexions a reçu un e-mail lui disant que Cursor était conçu pour fonctionner avec un seul appareil par abonnement. Cette règle n’existait pas. Michael Truell a expliqué que l’entreprise avait récemment modifié la sécurité des sessions et vérifiait si c’était la cause des déconnexions. Il a dit ensuite que le problème de déconnexion, désormais corrigé, semblait venir d’une condition de concurrence sur les connexions lentes, qui créait des sessions indésirables.
Ce qui a mal tourné
Les utilisateurs ont pris la règle inventée pour une vraie règle. Certains ont menacé de résilier, et l’histoire s’est répandue sur Reddit et Hacker News. Le cofondateur Michael Truell a écrit « we have no such policy » (traduction : « nous n’avons aucune règle de ce type ») et a qualifié la réponse d’erreur d’un bot de support IA en première ligne. L’incident a été largement lu comme un avertissement sur l’hallucination, c’est-à-dire le fait qu’une IA affirme avec aplomb des choses fausses.
Résultats
L’entreprise s’est excusée, a remboursé le développeur à l’origine de l’alerte et a indiqué que le problème de déconnexion était corrigé. Elle a aussi fait en sorte que les réponses de l’IA dans les e-mails de support soient clairement signalées comme telles. Une seule mauvaise réponse du bot a créé un problème de confiance dans une entreprise qui vend des outils d’IA.
Enseignements pour votre projet
Indiquez dès le premier jour que les réponses sont rédigées par une IA. Cursor n’a ajouté ces mentions qu’après que des clients ont pris une règle inventée pour une vraie politique.
Gardez des humains dans la boucle pour les réponses qui énoncent des règles, des frais ou des limites. Une mauvaise réponse donnée avec aplomb sur la politique de l’entreprise provoque des résiliations.
Appuyez le bot de support sur vos véritables documents de politique et testez-le sur des questions relatives aux conditions avant le lancement.
Cherchez la vraie cause de la plainte du client. Ici, un bogue logiciel déconnectait les utilisateurs, et le bot a inventé une règle pour l’expliquer.
Réserves
- Les déclarations de l’entreprise proviennent de messages du cofondateur Michael Truell sur Reddit et Hacker News, tels que cités par The Register via Slashdot. Ces messages n’ont pas été lus directement.
- Aucun résultat chiffré n’est rapporté. Le résultat est un revirement public, un remboursement et un changement d’étiquetage.
- eWeek indique que les utilisateurs concernés ont été remboursés. Slashdot indique que le développeur à l’origine de l’alerte a été remboursé. L’étendue des remboursements n’est pas claire.
- Aucune source ne nomme le modèle d’IA ni ne dit comment le bot a été construit. L’étiquette d’assistant de récupération est la plus proche pour un bot de support, sans que la conception soit confirmée.
- Aucune source ne donne de date de lancement du bot. La date de déploiement retenue est le mois de l’incident.
Sources
- Cursor AI's Own Support Bot Hallucinated Its Usage Policy
Slashdot (quoting The Register) · 2025-04-21 · Presse · tech.slashdot.org
- AI Chatbot Gone Rogue: Cursor Users Misled by Fabricated Policy
eWeek · 2025-04-22 · Presse · eweek.com
Résumé dans nos propres mots à partir des sources ci-dessus. Une erreur ? Consultez les corrections.