Übersetzt aus dem englischen Original. Zahlen und Quellen sind unverändert. Englisches Original lesen
Impel
Impel ersetzt in seiner Händler-Software Sales AI ein LLM eines Drittanbieters durch feinabgestimmtes Llama und meldet 20 % mehr Genauigkeit
Impel, ein KI-Softwareanbieter für Autohäuser, hat in seinem Sales AI ein Sprachmodell eines Drittanbieters durch ein auf Amazon SageMaker feinabgestimmtes Meta-Llama-Modell ersetzt. Das Unternehmen meldet Genauigkeitsgewinne, etwa bei Nachfassnachrichten von 59 % auf 92 %, sowie besser planbare Kosten. Die Zahlen stammen aus einem gemeinsam mit Impel verfassten AWS-Blogbeitrag.
Kennzahlen
Wortgetreu aus den Quellen übernommen. Kopieren Sie jede Zahl mit ihrer Quellenangabe.
73 %
auf 86 %
Genauigkeit personalisierter Antworten vor und nach dem Wechsel zum feinabgestimmten Modell (interne Auswertung)3
70 %
auf 83 %
Genauigkeit der Gesprächszusammenfassungen vor und nach dem Wechsel (interne Auswertung)1
59 %
auf 92 %
Genauigkeit bei der Erstellung von Nachfassnachrichten vor und nach dem Wechsel (interne Auswertung)3
20 %
Steigerung der Genauigkeit über die Kernfunktionen von Sales AI, laut Impel und AWS4
Was es erforderte
Kosten, Teamgröße und Zeitplan wurden in den Quellen nicht veröffentlicht.
Das Problem
Impel verkauft KI-Software an Autohäuser. Sein Sales AI antwortet Kaufinteressenten rund um die Uhr per E-Mail und SMS und hält sie im Gespräch, bis sie einen Termin im Autohaus buchen. Das Unternehmen setzte auf ein Sprachmodell eines Drittanbieters. Impel sagt, die Preise dieses Anbieters pro Token seien mit wachsendem Volumen zu teuer geworden, und die Grenzen beim Feinabstimmen hätten verhindert, dass es die eigenen Daten voll nutzen konnte, um die Ergebnisse zu verbessern.
Was sie gebaut haben
Impel ersetzte das externe Modell durch ein Meta-Llama-Modell, das auf den eigenen Daten feinabgestimmt wurde und auf Amazon SageMaker AI läuft. Llama ist ein Open-Weight-Modell (mit offenen Gewichten), das heißt, seine Dateien sind veröffentlicht, und ein Unternehmen kann es selbst anpassen und betreiben. Das Modell treibt drei Funktionen von Sales AI an: frühere Gespräche zusammenfassen, um die Absicht zu erkennen, Nachfassnachrichten schreiben, damit Abschlüsse nicht ins Stocken geraten, und Antworten auf die Ansprache des Händlers zuschneiden.
Wie sie vorgegangen sind
Impel stimmte das Modell mit LoRA, einem kostengünstigen Verfahren zur Anpassung großer Modelle, auf anonymisierten Kundeninteraktionsdaten fein ab. Mit einem Verfahren namens AWQ verkleinerte es das Modell, damit es schneller läuft, und betrieb es auf SageMaker mit automatischer Skalierung, um Lastspitzen abzufangen. Das F&E-Team von Impel arbeitete vor dem Start über mehrere Sprints mit den Account-, Strategie- und SageMaker-Teams von AWS zusammen. Mitarbeiter bewerteten das bisherige und das neue Modell für jeden Anwendungsfall.
Ergebnisse
In der Auswertung von Impel stieg die Genauigkeit personalisierter Antworten von 73 % auf 86 %, die der Gesprächszusammenfassungen von 70 % auf 83 % und die der Nachfassnachrichten von 59 % auf 92 %. Impel und AWS nennen zudem eine um 20 % höhere Genauigkeit über die Kernfunktionen. Als weitere Vorteile führt Impel planbare Hosting-Kosten, mehr Kontrolle über das Training und die Verarbeitung der Daten im eigenen AWS-Konto an. Als Nächstes plant das Unternehmen weitere eigene Modelle sowie Retrieval- und Agenten-Workflows.
Erkenntnisse für Ihr Projekt
Wechseln Sie zu einem eigenen angepassten Modell, wenn die Gebühren pro Token mit dem Volumen wachsen. Bei Impel wurde die Preisgestaltung des früheren Anbieters mit steigenden Transaktionszahlen zu teuer.
Bewerten Sie das Modell an den Aufgaben, die Sie verkaufen. Das Team von Impel hat das alte und das neue Modell für jede Funktion von Sales AI bewertet, und die Gewinne unterschieden sich je nach Aufgabe stark.
Prüfen Sie die Rolle des Engineering-Partners. Impel arbeitete vor dem Start über mehrere Sprints mit den Account-, Strategie- und Service-Teams von AWS zusammen.
Halten Sie sensible Daten im eigenen Cloud-Konto. Impel nennt die sichere Verarbeitung im eigenen AWS-Konto als Vorteil.
Einschränkungen
- Die ausführliche Quelle ist ein AWS-Blogbeitrag, der gemeinsam mit Impel-Mitarbeitern verfasst wurde; die eigene Website von Impel wiederholt die Zahlen 20 %, 73 % auf 86 % und 59 % auf 92 %. Die Genauigkeitswerte stammen aus Impels eigener Auswertung, bei der sein F&E-Team die Ergebnisse bewertete. Methode und Stichprobengrößen werden nicht genannt.
- Der AWS-Beitrag formuliert die 20-%-Zahl auf drei Arten (20 % verbesserte Genauigkeit, 20 % Verbesserung über die Kernfunktionen, 20 % Steigerung der Genauigkeit über die Kernfunktionen), und die Mitteilung von CBT News wiederholt sie. Keine Quelle sagt, ob es sich um einen relativen Wert oder um Prozentpunkte handelt; deshalb wird sie wie formuliert wiedergegeben.
- Der Blogbeitrag ist auf den 4. Juni 2025 datiert und nennt kein Datum der Inbetriebnahme; dieses Datum wird daher als Einsatzdatum verwendet. Der Fachartikel vom Juli 2025 wiederholt Impels eigene Ankündigung und liefert keine unabhängige Prüfung.
- Eine Zahl zur Kosteneinsparung wird nicht genannt, nur dass gehostete Preise die Kosten besser planbar machen.
- Der Beitrag nennt Llama, aber nicht, welche Version.
Quellen
- Impel enhances automotive dealership customer experience with fine-tuned LLMs on Amazon SageMaker
AWS Machine Learning Blog · 2025-06-04 · Fallstudie des Anbieters · aws.amazon.com
- Impel advances automotive AI with domain-tuned LLM and industry-first safety research initiative
CBT News · 2025-07-15 · Nachrichten · cbtnews.com
- Impel enhances automotive dealership customer experience with fine-tuned LLMs on Amazon SageMaker (Impel Knowledge Hub summary)
Impel · Ohne Datum · Unternehmensblog · impel.ai
- Accelerating auto retail excellence with safer, smarter AI
Impel (R&D team blog) · 2025-07-16 · Unternehmensblog · impel.ai
In eigenen Worten aus den oben genannten Quellen zusammengefasst. Einen Fehler entdeckt? Siehe Korrekturen.