Ein Tencent-Team senkt erfundene Links in Antworten für Werbekunden um 92,7 % mit einem feinabgestimmten Qwen3-32B mit offenen Gewichten

Das Problem

Die Tencent-Autoren beschreiben eine großangelegte Werbeplattform mit vielen Regeln, Produkten und Kontoverfahren, die sich häufig ändern. Werbekunden stellen dazu Support-Fragen. Eine falsche Antwort ist teuer, und das Paper nennt erfundene Weblinks ausdrücklich als Risiko, weil sie zu finanziellen Verlusten, Compliance-Problemen und rechtlichen Folgen führen können. Herkömmliche Assistenten auf Retrieval-Basis, die Dokumente nachschlagen und dann eine Antwort schreiben, lieferten weiterhin unvollständige oder erfundene Antworten.

Was sie gebaut haben

Das Tencent-Team kombinierte zwei Ideen. Erstens ein Retrieval-Schritt, der Beziehungen zwischen Produkten, Regeln und Verfahren verfolgt (GraphRAG genannt, eine Suche über eine Karte verknüpfter Fakten), zusätzlich zur gewöhnlichen Stichwort- und Vektorsuche. Zweitens ein Qwen3-32B-Modell, das Tencent per Reinforcement Learning abgestimmt hat: Das Modell wird belohnt, wenn es sich an die gefundenen Belege hält, den Hausstil befolgt, sicher bleibt und nur gültige URLs verwendet. Qwen3-32B ist ein Modell mit offenen Gewichten, das heißt, seine Dateien sind öffentlich und lassen sich auf den eigenen Servern eines Unternehmens betreiben. Der Dienst ist über die Seitenleiste einer offiziellen Website, ein Mini-Programm und eine eigenständige Website erreichbar.

Wie sie vorgegangen sind

Tencent hielt den Wissensgraphen absichtlich klein. Das Team erfasste, welche Inhalte echte Anfragen am häufigsten abriefen, und baute den Graphen aus dieser am häufigsten zitierten Teilmenge, damit die Suche schnell blieb. Der wichtigste Test-Snapshot des Papers hatte 4.686 Entitäten und 10.712 Relationen. Das Modell wurde zunächst mit 1.000 von Menschen annotierten Dialogen feinabgestimmt und dann mit Reinforcement Learning auf 1.000 Prompts trainiert. Ein kleineres Qwen3-4B-Modell sortiert die Suchergebnisse neu. Der Generator läuft mit vLLM auf zwei NVIDIA-H20-GPUs, und der Wissensindex läuft auf Elasticsearch. Ein Nachprüfungsschritt fügt 230 ms für Sicherheitsleitplanken hinzu.

Ergebnisse

Auf einem internen Testsatz mit 3.000 Fragen hatte das abgestimmte Modell eine um 72 % niedrigere Halluzinationsrate als dasselbe Modell, feinabgestimmt ohne Reinforcement Learning, sowie Verbesserungen bei der von Experten bewerteten Genauigkeit, Vollständigkeit und Sicherheit. In einem zweiwöchigen Live-Test mit 50 % des Datenverkehrs gegen einen herkömmlichen Retrieval-Aufbau mit DeepSeek-V3 stieg die Like-Rate um 28,6 %, und ungültige URLs gingen um 92,7 % zurück. Die beiden Ergebnistabellen des Papers widersprechen sich bei der Dislike-Rate, daher wird sie hier nicht genannt (siehe Einschränkungen). Der Preis waren langsamere Antworten: Die durchschnittliche Zeit bis zum ersten Token stieg von 2,5 s auf 3,1 s. Die Autoren sagen, das System habe über mehr als ein halbes Jahr Millionen von Interaktionen bedient.

Was Sie übernehmen können

Legen Sie den einen Fehler fest, den Sie sich nicht leisten können, etwa einen erfundenen Link, und geben Sie ihm eine eigene Kennzahl und eine eigene Belohnung im Training. Führen Sie einen Live-Splittest gegen eine klare Basislinie durch und veröffentlichen Sie die Verlangsamung neben den Gewinnen.