Lumıary

Przetłumaczono z angielskiego oryginału. Liczby i źródła pozostają bez zmian. Przeczytaj angielski oryginał

Zgłoszone przez firmęDziała od cze 2025Dodano paź 2026

Impel

Impel zastępuje zewnętrzny LLM dostrojonym modelem Llama w swoim Sales AI dla salonów samochodowych i podaje 20 % lepszą trafność

Impel, dostawca oprogramowania AI dla salonów samochodowych, zastąpił zewnętrzny model językowy w swoim Sales AI modelem Llama firmy Meta, dostrojonym w Amazon SageMaker. Firma podaje wzrost trafności, na przykład wiadomości następczych z 59 % do 92 %, oraz bardziej przewidywalne koszty. Dane pochodzą z wpisu na blogu AWS napisanego wspólnie z Impel.

Poprawić jakość, ograniczyć ryzykoObniżyć kosztyPoprawić doświadczenia klientów

Kluczowe liczby

Przepisane dokładnie ze źródeł. Skopiuj każdą liczbę wraz z przypisem.

z 73 % do 86 %

Trafność spersonalizowanych odpowiedzi przed przejściem na dostrojony model i po nim (ocena wewnętrzna)3

z 70 % do 83 %

Trafność streszczeń rozmów przed i po (ocena wewnętrzna)1

z 59 % do 92 %

Trafność generowania wiadomości następczych przed i po (ocena wewnętrzna)3

20 %

Wzrost trafności w kluczowych funkcjach Sales AI, według Impel i AWS4

Ile to kosztowało

KosztNie ujawniono
ZespółNie ujawniono
HarmonogramNie ujawniono

Koszt, wielkość zespołu i harmonogram nie zostały ujawnione w źródłach.

Problem

Impel sprzedaje oprogramowanie AI salonom samochodowym. Jego Sales AI odpowiada potencjalnym kupującym e-mailem i SMS-em o każdej porze, aby utrzymać ich zaangażowanie, dopóki nie umówią się na wizytę w salonie. Firma korzystała z zewnętrznego modelu językowego. Impel twierdzi, że cennik tego dostawcy za token stał się zbyt kosztowny wraz ze wzrostem wolumenów, a ograniczenia w dostrajaniu nie pozwalały w pełni wykorzystać własnych danych do poprawy wyników.

Co zbudowano

Impel zastąpił zewnętrzny model modelem Llama firmy Meta, dostrojonym na własnych danych i hostowanym w Amazon SageMaker AI. Llama to model o otwartych wagach (open-weight), czyli jego pliki są opublikowane, a firma może sama go dostosować i hostować. Model napędza trzy funkcje Sales AI: streszczanie wcześniejszych rozmów w celu rozpoznania intencji, pisanie wiadomości następczych, które nie pozwalają transakcjom utknąć, oraz personalizowanie odpowiedzi zgodnie z komunikacją dealera.

Jak to zrobiono

Impel dostroił model na zanonimizowanych danych o interakcjach z klientami za pomocą LoRA, taniej metody adaptacji dużego modelu. Zmniejszył model metodą o nazwie AWQ, aby działał szybciej, i uruchomił go w SageMaker z automatycznym skalowaniem, by radzić sobie ze szczytami ruchu. Zespół R&D Impel współpracował z zespołami AWS ds. kont, strategii i SageMaker przez kilka sprintów przed startem. Pracownicy ocenili dotychczasowy i nowy model w każdym przypadku użycia.

Wyniki

W ocenie Impel trafność spersonalizowanych odpowiedzi wzrosła z 73 % do 86 %, streszczeń rozmów z 70 % do 83 %, a wiadomości następczych z 59 % do 92 %. Impel i AWS podają też 20 % wzrost trafności w kluczowych funkcjach. Jako dalsze korzyści Impel wymienia przewidywalne koszty hostingu, ściślejszą kontrolę nad treningiem oraz przetwarzanie danych na własnym koncie AWS. W następnej kolejności planuje więcej własnych modeli oraz przepływy pracy z wyszukiwaniem i agentami.

Wnioski dla Twojego projektu

  1. Przejdźcie na własny dostrojony model, gdy opłaty za token rosną wraz z wolumenem. W Impel cennik dotychczasowego dostawcy stał się zbyt drogi, gdy przybywało transakcji.

  2. Oceniajcie model na zadaniach, które sprzedajecie. Zespół Impel ocenił stary i nowy model w każdej funkcji Sales AI, a zyski bardzo różniły się w zależności od zadania.

  3. Sprawdźcie rolę partnera inżynieryjnego. Impel współpracował z zespołami AWS ds. kont, strategii i usług przez kilka sprintów przed startem.

  4. Trzymajcie wrażliwe dane na własnym koncie w chmurze. Impel wymienia bezpieczne przetwarzanie na własnym koncie AWS wśród korzyści.

Zastrzeżenia

  • Szczegółowym źródłem jest wpis na blogu AWS napisany wspólnie z pracownikami Impel; własna strona Impel powtarza liczby 20 %, z 73 % do 86 % oraz z 59 % do 92 %. Dane o trafności pochodzą z własnej oceny Impel, w której zespół R&D oceniał wyniki. Metoda i wielkość prób nie zostały podane.
  • Wpis AWS formułuje liczbę 20 % na trzy sposoby (20 % lepsza trafność, 20 % poprawy w kluczowych funkcjach, 20 % wzrostu trafności w kluczowych funkcjach), a komunikat CBT News ją powtarza. Żadne źródło nie mówi, czy to wartość względna, czy punkty procentowe, więc podajemy ją tak, jak ją sformułowano.
  • Wpis na blogu jest datowany na 4 czerwca 2025 i nie podaje daty uruchomienia, dlatego ta data jest użyta jako data wdrożenia. Artykuł branżowy z lipca 2025 powtarza własną zapowiedź Impel i nie wnosi niezależnej weryfikacji.
  • Nie podano żadnej liczby dotyczącej oszczędności, tylko to, że cennik hostowanego rozwiązania sprawia, że koszty są bardziej przewidywalne.
  • We wpisie jest mowa o Llama, ale bez wersji.

Źródła

  1. Impel enhances automotive dealership customer experience with fine-tuned LLMs on Amazon SageMaker

    AWS Machine Learning Blog · 2025-06-04 · Studium przypadku dostawcy · aws.amazon.com

  4. Accelerating auto retail excellence with safer, smarter AI

    Impel (R&D team blog) · 2025-07-16 · Blog firmowy · impel.ai

Streszczone własnymi słowami na podstawie powyższych źródeł. Zauważyłeś błąd? Zobacz sprostowania.

Powiązane przypadki