Veolia crée en deux mois un GPT interne sécurisé et l'ouvre à l'ensemble de ses collaborateurs

Le problème

Veolia compte environ 213 000 collaborateurs. Ils utilisaient déjà des outils d'IA publics gratuits pour traduire ou chercher rapidement. Ces outils font courir le risque que des données de l'entreprise quittent le groupe. Veolia a demandé à ses équipes de ne pas les utiliser, mais il lui fallait une alternative sûre que les gens choisiraient vraiment.

Ce qu’ils ont construit

Veolia Secure GPT est un assistant conversationnel interne pour rédiger, traduire, rechercher et résumer des informations, y compris pour poser des questions sur des documents PDF chargés dans l'outil. Les équipes informatiques de Veolia l'ont conçu sur le service Azure OpenAI de Microsoft et sur Google Cloud. Le groupe y a ensuite ajouté le service Bedrock d'Amazon, qui donne accès à de nombreux modèles, afin que la plateforme ne dépende pas d'un seul fournisseur.

En 2025, la plateforme hébergeait de nombreux assistants et agents spécialisés au-dessus du chat de base. Un exemple est VivaOGPT chez Veolia Eau France, l'activité eau du groupe en France, qui lit les dossiers d'appels d'offres des collectivités souhaitant déléguer leur service d'eau.

Comment ils s’y sont pris

Les équipes informatiques ont développé l'outil en deux mois. Le déploiement a été volontairement progressif pour tester la capacité de montée en charge : 400 collaborateurs en juillet 2023, 2 000 au siège en septembre, puis l'ensemble des collaborateurs en octobre 2023. La génération augmentée par récupération (RAG), où le système cherche d'abord des passages dans les documents de l'entreprise puis rédige une réponse à partir de ceux-ci, alimente les services documentaires. La direction informatique du groupe a financé la première phase ; les filiales devaient être facturées à l'usage une fois l'accès ouvert.

Chez Veolia Eau France, le DSI a indiqué à Journal du Net que le premier objectif était de mettre l'IA générative à la disposition de tous. L'entité a mené des sessions de sensibilisation tout au long de 2024, d'abord pour les comités de direction, puis pour les relais locaux, et a formé 1 500 managers. À partir de fin 2024, elle est passée à des outils spécifiques, en commençant par l'assistant dédié aux dossiers d'appels d'offres.

Résultats

Selon le communiqué de presse de Veolia d'octobre 2023, les 213 000 collaborateurs avaient accès à l'outil dès ce mois-là. En juin 2025, Journal du Net faisait état de près de 65 000 utilisateurs actifs dans 45 entités, soit selon lui plus de 90 % des cadres et employés de bureau du groupe, avec 13 000 personnes formées et 130 assistants internes.

Chez Veolia Eau France, VivaOGPT a analysé près de 150 dossiers d'appels d'offres après son lancement en novembre 2024. Journal du Net rapporte un gain d'une journée de travail par dossier et par ingénieur d'affaires. L'entité s'attendait à ce que plus de la moitié de ses appels d'offres, soit plus de 300 dossiers, passent par l'outil sur une année complète. C'est une attente, pas un résultat.