Un team di Tencent riduce del 92,7% i link inventati nelle risposte di supporto pubblicitario con un Qwen3-32B a pesi aperti affinato

Il problema

Gli autori di Tencent descrivono una piattaforma pubblicitaria su larga scala con molte regole, prodotti e procedure di account che cambiano spesso. Gli inserzionisti pongono domande di supporto su questi temi. Una risposta sbagliata costa cara, e l'articolo indica i link web inventati come rischio specifico perché possono portare a perdite economiche, problemi di conformità ed esposizione legale. Gli assistenti standard basati sul recupero, che cercano documenti e poi scrivono una risposta, producevano ancora risposte incomplete o inventate.

Cosa hanno costruito

Il team di Tencent ha combinato due idee. Primo, una fase di recupero che segue le relazioni tra prodotti, regole e procedure (chiamata GraphRAG, una ricerca su una mappa di fatti collegati) accanto alla normale ricerca per parole chiave e per vettori. Secondo, un modello Qwen3-32B che Tencent ha ottimizzato con apprendimento per rinforzo, in cui il modello viene premiato se si attiene alle evidenze recuperate, segue lo stile della casa, resta sicuro e usa solo URL validi. Qwen3-32B è un modello a pesi aperti, cioè i suoi file sono pubblici e possono essere eseguiti sui server di un'azienda. Il servizio è raggiungibile dalla barra laterale di un sito ufficiale, da un mini-programma e da un sito autonomo.

Come ci sono riusciti

Tencent ha tenuto piccolo il grafo della conoscenza di proposito. Ha tracciato quali contenuti le query reali recuperavano più spesso e ha costruito il grafo a partire da quel sottoinsieme più citato, così le ricerche restavano veloci. L'istantanea principale dei test dell'articolo aveva 4.686 entità e 10.712 relazioni. Il modello è stato prima affinato su 1.000 dialoghi annotati da persone e poi addestrato con apprendimento per rinforzo su 1.000 prompt. Un modello Qwen3-4B più piccolo riordina i risultati di ricerca. Il generatore viene erogato con vLLM su due GPU NVIDIA H20, e l'indice della conoscenza gira su Elasticsearch. Una fase di controllo finale aggiunge 230 ms per le barriere di sicurezza.

Risultati

Su un insieme di test interno di 3.000 domande, il modello ottimizzato ha avuto un tasso di allucinazione inferiore del 72% rispetto allo stesso modello affinato senza apprendimento per rinforzo, e miglioramenti in accuratezza, completezza e sicurezza valutate da esperti. In un test dal vivo di due settimane sul 50% del traffico rispetto a una configurazione di recupero standard con DeepSeek-V3, il tasso di apprezzamenti è salito del 28,6% e gli URL non validi sono calati del 92,7%. Le due tabelle di risultati dell'articolo non concordano sul tasso di non apprezzamenti, quindi non viene citato qui (vedi le avvertenze). Il prezzo sono state risposte più lente: il tempo medio al primo token è passato da 2,5 s a 3,1 s. Gli autori dicono che il sistema aveva gestito milioni di interazioni in oltre sei mesi.

Cosa replicare

Definire l'errore che non ci si può permettere, come un link inventato, e dargli una metrica propria e una ricompensa propria nell'addestramento. Eseguire un test diviso dal vivo rispetto a una base di riferimento chiara e pubblicare il rallentamento accanto ai miglioramenti.