Une équipe de Tencent réduit de 92,7 % les liens inventés dans les réponses au support publicitaire grâce à un Qwen3-32B à poids ouverts affiné

Le problème

Les auteurs de Tencent décrivent une plateforme publicitaire à grande échelle, avec de nombreuses règles, de nombreux produits et des procédures de compte qui changent souvent. Les annonceurs posent des questions de support à leur sujet. Une mauvaise réponse coûte cher, et l'article cite en particulier les liens web inventés comme un risque, car ils peuvent entraîner des pertes financières, des problèmes de conformité et une exposition juridique. Les assistants classiques fondés sur la recherche documentaire, qui consultent des documents puis rédigent une réponse, produisaient encore des réponses incomplètes ou inventées.

Ce qu’ils ont construit

L'équipe de Tencent a combiné deux idées. D'abord, une étape de recherche qui suit les relations entre produits, règles et procédures (appelée GraphRAG, une recherche sur une carte de faits reliés), en plus de la recherche classique par mots-clés et par vecteurs. Ensuite, un modèle Qwen3-32B que Tencent a ajusté par apprentissage par renforcement : le modèle est récompensé lorsqu'il s'en tient aux éléments retrouvés, respecte le style maison, reste sûr et n'utilise que des URL valides. Qwen3-32B est un modèle à poids ouverts, c'est-à-dire dont les fichiers sont publics et peuvent être exécutés sur les propres serveurs d'une entreprise. Le service est accessible depuis la barre latérale d'un site officiel, une mini-application et un site autonome.

Comment ils s’y sont pris

Tencent a volontairement gardé le graphe de connaissances petit. L'équipe a suivi les contenus que les requêtes réelles retrouvaient le plus souvent et a construit le graphe à partir de ce sous-ensemble le plus cité, afin que les recherches restent rapides. L'instantané principal des tests de l'article comptait 4 686 entités et 10 712 relations. Le modèle a d'abord été affiné sur 1 000 dialogues annotés par des humains, puis entraîné par apprentissage par renforcement sur 1 000 requêtes. Un modèle Qwen3-4B plus petit reclasse les résultats de recherche. Le générateur est servi avec vLLM sur deux GPU NVIDIA H20, et l'index de connaissances tourne sur Elasticsearch. Une étape de contrôle final ajoute 230 ms pour les garde-fous de sécurité.

Résultats

Sur un jeu de test interne de 3 000 questions, le modèle ajusté a affiché un taux d'hallucination inférieur de 72 % à celui du même modèle affiné sans apprentissage par renforcement, ainsi que des gains en exactitude, en exhaustivité et en sécurité évalués par des experts. Lors d'un test en conditions réelles de deux semaines sur 50 % du trafic, face à un dispositif de recherche classique avec DeepSeek-V3, le taux de mentions « j'aime » a augmenté de 28,6 % et les URL invalides ont diminué de 92,7 %. Les deux tableaux de résultats de l'article se contredisent sur le taux de mentions « je n'aime pas », qui n'est donc pas cité ici (voir les réserves). Le prix à payer : des réponses plus lentes, le temps moyen du premier jeton passant de 2,5 s à 3,1 s. Les auteurs indiquent que le système a traité des millions d'interactions sur plus de six mois.

Ce qu’il faut retenir

Définissez l'erreur que vous ne pouvez pas vous permettre, comme un lien inventé, et donnez-lui sa propre mesure et sa propre récompense à l'entraînement. Menez un test partagé en conditions réelles face à une base de référence claire, et publiez le ralentissement à côté des gains.