Veolia bouwt in twee maanden een veilige interne GPT en stelt die open voor al zijn medewerkers

Het probleem

Veolia heeft ongeveer 213.000 medewerkers. Zij gebruikten al gratis openbare AI-hulpmiddelen voor snelle vertalingen en zoekopdrachten. Daarbij bestaat het risico dat bedrijfsgegevens de groep verlaten. Veolia zei zijn medewerkers ze niet te gebruiken, maar had een veilig alternatief nodig dat mensen echt zouden kiezen.

Wat ze bouwden

Veolia Secure GPT is een interne chatassistent om te schrijven, vertalen, zoeken en informatie samen te vatten, inclusief vragen over geüploade pdf-documenten. De IT-teams van Veolia bouwden hem op de Azure OpenAI-dienst van Microsoft en op Google Cloud. Later voegden zij de Bedrock-dienst van Amazon toe, die toegang geeft tot veel modellen, zodat het platform niet van één leverancier afhangt.

In 2025 draaiden er op het platform, bovenop de gewone chat, veel gespecialiseerde assistenten en agenten. Een voorbeeld is VivaOGPT bij Veolia Eau France, de watertak van de groep in Frankrijk, die aanbestedingsstukken leest van lokale overheden die hun waterdienst willen uitbesteden.

Hoe ze het aanpakten

De IT-teams ontwikkelden het hulpmiddel in twee maanden. De uitrol verliep bewust gefaseerd om de schaalbaarheid te testen: 400 medewerkers in juli 2023, 2.000 op het hoofdkantoor in september en daarna alle medewerkers in oktober 2023. Retrieval-augmented generation (RAG), waarbij het systeem eerst passages in bedrijfsdocumenten opzoekt en daaruit een antwoord schrijft, drijft de documentdiensten aan. De IT-afdeling van de groep financierde de eerste fase; dochterbedrijven zouden naar gebruik worden gefactureerd zodra zij toegang kregen.

Bij Veolia Eau France zei de CIO tegen Journal du Net dat het eerste doel was generatieve AI voor iedereen beschikbaar te maken. De entiteit hield in 2024 bewustwordingssessies, eerst voor managementcomités, daarna voor lokale ambassadeurs, en trainde 1.500 managers. Vanaf eind 2024 stapte zij over op specifieke hulpmiddelen, te beginnen met de assistent voor aanbestedingsdossiers.

Resultaten

Volgens het persbericht van Veolia van oktober 2023 hadden in die maand alle 213.000 medewerkers toegang. In juni 2025 meldde Journal du Net bijna 65.000 actieve gebruikers in 45 entiteiten, naar zijn zeggen meer dan 90% van het kantoorpersoneel van de groep, met 13.000 getrainde mensen en 130 interne assistenten.

Bij Veolia Eau France analyseerde VivaOGPT na de lancering in november 2024 bijna 150 aanbestedingsdossiers. Journal du Net meldt een winst van een werkdag per dossier en per business developer. De entiteit verwachtte dat over een vol jaar meer dan de helft van haar aanbestedingen, meer dan 300 dossiers, via het hulpmiddel zou lopen. Dat is een verwachting, geen resultaat.