Traduit de l’original anglais. Les chiffres et les sources sont inchangés. Lire l’original en anglais
Trustpilot
Trustpilot affine de petits modèles Gemma pour étiqueter des millions d’avis par jour
Trustpilot a affiné (fine-tuning) de petits modèles Gemma, la famille de modèles ouverts (open-weight) de Google, pour étiqueter chaque jour des millions d’avis clients : thème, entités nommées et sentiment. Google Cloud et Trustpilot indiquent une précision inférieure de quelques points de pourcentage à celle des modèles plus grands qui ont étiqueté les données d’entraînement, pour une fraction du coût.
Chiffres clés
Repris tels quels des sources. Copiez n’importe quel chiffre avec sa citation.
Des millions par jour, en quasi-temps réel
Avis traités, selon les auteurs1
Inférieure de quelques points de pourcentage
Précision des modèles affinés par rapport au consensus des grands modèles enseignants1
Nettement meilleure (aucun chiffre communiqué)
Précision par rapport à la solution précédente1
Ce que cela a demandé
Le problème
L’activité de Trustpilot repose sur la transformation des avis clients en données exploitables : quel thème l’avis aborde, quelles entreprises ou quels produits il cite, quel est son degré de positivité et ce que souhaite son auteur. L’entreprise reçoit des millions d’avis et en a besoin rapidement. Envoyer chacun d’eux à un modèle commercial de premier plan coûte cher à cette échelle, et les auteurs précisent qu’un modèle fermé lie aussi Trustpilot aux tarifs et au calendrier de mises à jour d’un fournisseur.
Ce qu’ils ont construit
Trustpilot a construit un ensemble de petits modèles spécialisés à partir de Gemma 2 9B, un modèle ouvert de Google. « Ouvert » (open-weight) signifie que les fichiers du modèle sont publiés : une entreprise peut l’adapter et l’exécuter sur son propre compte cloud. L’affinage (fine-tuning) consiste à entraîner davantage un modèle sur les exemples étiquetés de l’entreprise. Les modèles assurent la classification par thème, la reconnaissance d’entités nommées (repérer les noms d’entreprises et de produits dans un texte) et l’extraction du sentiment.
Comment ils s’y sont pris
L’équipe a d’abord fait étiqueter par de plus grands modèles Gemini de Google un échantillon représentatif d’avis Trustpilot. Elle a conservé les étiquettes sur lesquelles les modèles « enseignants » s’accordaient et les a utilisées comme données d’entraînement pour les petits modèles.
En production, un pipeline en flux continu sur Google Cloud envoie chaque avis à deux services. L’un gère la préparation et les prompts. L’autre sert Gemma via vLLM, un outil de service open source, sur des GPU A100. Les auteurs ont réglé les paramètres de vLLM, mis au point une méthode réutilisable de test de charge et configuré la montée en charge automatique selon le nombre de requêtes. Le projet conjoint avec Google s’est déroulé fin 2025.
Résultats
Les auteurs indiquent que les modèles affinés surpassent nettement la solution précédente de Trustpilot et s’approchent, à quelques points de pourcentage près, du consensus des modèles enseignants. Selon eux, le pipeline traite des millions d’avis par jour en quasi-temps réel, avec des performances comparables à celles d’un modèle Gemini pour une fraction du coût. L’article ne chiffre pas l’économie réalisée.
Ce qui a mal tourné
Le réseau privé entre les deux points de terminaison n’était pas pris en charge nativement, si bien que la conception entièrement isolée n’a pas été possible. Les déploiements étaient lents et opaques, et les puces A100 de la région UE étaient difficiles à obtenir.
Enseignements pour votre projet
Utilisez un grand modèle comme enseignant, pas comme moteur de production. Trustpilot a fait étiqueter un échantillon d’avis par des modèles plus grands, puis a entraîné de petits modèles sur ces étiquettes.
Préférez un coût d’infrastructure fixe à une facturation au jeton lorsque le volume est élevé et stable. Trustpilot cite cette prévisibilité comme l’une des raisons du choix de modèles ouverts.
Séparez le modèle de langage et la logique métier en deux services, afin que chacun puisse monter en charge indépendamment.
Vérifiez tôt la disponibilité des GPU. Obtenir des puces A100 dans la région UE a été difficile : les réservations ont dû être partagées entre développement, entraînement et production.
Réserves
- L’article est cosigné par des collaborateurs de Trustpilot et de Google et ne donne aucun chiffre absolu sur le coût, la latence ou la précision, seulement des affirmations relatives.
- L’article ne dit pas quand le pipeline est entré en production. La date de déploiement indiquée est le mois de publication de l’article ; le projet conjoint s’est déroulé fin 2025.
- L’article n’indique pas la région. L’Europe se déduit du fait que Trustpilot est une entreprise danoise et que l’article mentionne une région de calcul de l’UE.
- Les auteurs signalent des problèmes non résolus : le réseau privé entre les points de terminaison n’était pas possible, et les déploiements de ces points de terminaison étaient lents et difficiles à observer.
Sources
- How Trustpilot built a real-time architecture for data enrichment using Gemma
Google Cloud Blog · 2026-06-02 · Étude de cas de l’éditeur · cloud.google.com
Résumé dans nos propres mots à partir des sources ci-dessus. Une erreur ? Consultez les corrections.