Ant International ersetzt eine mehrstufige Händlersupport-Pipeline durch ein einziges feinabgestimmtes Qwen3-Modell

Das Problem

Ant International, ein globales Zahlungs- und Finanzunternehmen, betreibt einen Händlerservice-Agenten, der Anfragen zu grenzüberschreitenden Zahlungen, Erstattungsstreitfällen und E-Commerce-Abrechnungen bearbeitet. Der Agent war als Kette einzelner Module gebaut: Frage weiterleiten, Informationen abrufen, planen, handeln, die Antwort schreiben und prüfen. Die Autoren sagen, eine solche Kette sammle für jeden Sonderfall Notlösungen an, mache Fehler schwer nachvollziehbar und füge in jedem Schritt Verzögerung hinzu. Ein Fehler am Anfang der Kette setzt sich in späteren Schritten fort, und die Verzögerung frustriert Kunden, die sich um ihr Geld sorgen.

Was sie gebaut haben

Das Team ersetzte die Kette durch ein einziges Modell, das es OneModel nennt. Ein einziges Modell übernimmt den gesamten Austausch: die Anfrage verstehen, Werkzeuge nutzen, Unternehmensabläufe befolgen und die Antwort schreiben. Geschäftsregeln und Standardarbeitsanweisungen werden durch weiteres Training in die Parameter des Modells eingebaut, statt in getrennten Modulen zu liegen.

Das Modell hat 8 Milliarden Parameter und basiert auf Alibabas Qwen3-Familie mit offenen Gewichten. Es läuft auf der eigenen Infrastruktur von Ant International mit NVIDIA-H200-GPUs und der Open-Source-Software vLLM.

Wie sie vorgegangen sind

Das Training hatte drei Phasen. Die erste vermittelte dem Modell das stabile Fachwissen des Unternehmens anhand von Handbüchern, internen FAQs und früheren Problemfällen. Die zweite nutzte rund 200.000 Beispiele aus erstklassigen Service-Protokollen und Abläufen, um dem Modell beizubringen, Geschäftsabläufe Schritt für Schritt anzuwenden. Die dritte nutzte Reinforcement Learning, bei dem ein simulierter Kunde mit dem Modell spricht und ein Bewertungssystem gutes Verhalten belohnt, um schwierige Grenzfälle zu beheben und die Antworten weniger roboterhaft klingen zu lassen.

Schnell veränderliche Daten wie Wechselkurse werden nicht ins Modell trainiert. Sie werden im Moment jeder Anfrage geliefert, wodurch ein erneutes Training bei jeder Änderung der Zahlen entfällt.

Ergebnisse

Ant führte einen mehrwöchigen Online-A/B-Test durch, in dem OneModel mit der bestehenden modularen Pipeline beim Global Merchant Service Agent verglichen wurde. Die Latenz sank um mehr als 50 %, von 18,7 s auf 8 s, und die Intelligent Resolution Rate stieg von 64,3 % auf 83,3 %. Das Paper berichtet außerdem, dass das 8B-OneModel in seiner Evaluation eine Spitzen-Lösungsquote von 90,75 % erreichte, über GPT-5.2 mit 87,55 %, in einer Evaluation, deren Aufbau das Paper nicht beschreibt.

Was schiefgelaufen ist

Die Autoren nennen Erkenntnisse aus dem Umstieg. Ein simulierter Kunde, der menschlich klang (95,8 % Menschenähnlichkeit gegenüber 96,7 % bei echten Menschen), verhielt sich nicht wie ein echter. Echte Kunden verlangten in etwa 10 % der Fälle einen menschlichen Mitarbeiter, der Simulator nur in 1,7 %, sodass das Team ihm beibringen musste, Ungeduld und Beschwerden zu zeigen. Verrauschte menschliche Labels schadeten zudem dem im Training genutzten Bewertungsmodell, deshalb baute das Team eine Schleife, die die Labels bereinigt. Schließlich ist ein einzelnes Modell schwerer zu debuggen als eine Kette von Modulen, weil nicht mehr klar ist, welcher Schritt versagt hat.

Was Sie übernehmen können

Kartieren Sie die Schritte Ihrer Support-Kette und zählen Sie, was jeder an Verzögerung und Fehlern beiträgt. Verlagern Sie stabile Regeln ins Modell und halten Sie flüchtige Fakten außerhalb. Messen Sie die Lösung ohne menschliche Eskalation und testen Sie das neue Design auf echtem Verkehr gegen das aktuelle.