Veolia baut in zwei Monaten ein sicheres internes GPT und öffnet es für die gesamte Belegschaft

Das Problem

Veolia hat rund 213.000 Beschäftigte. Viele nutzten bereits kostenlose öffentliche KI-Werkzeuge für schnelle Übersetzungen und Recherchen. Dabei besteht das Risiko, dass Unternehmensdaten den Konzern verlassen. Veolia wies die Beschäftigten an, sie nicht zu nutzen, brauchte aber eine sichere Alternative, für die sich die Menschen tatsächlich entscheiden.

Was sie gebaut haben

Veolia Secure GPT ist ein interner Chat-Assistent zum Schreiben, Übersetzen, Suchen und Zusammenfassen von Informationen, auch für Fragen zu hochgeladenen PDF-Dokumenten. Die IT-Teams von Veolia bauten ihn auf dem Dienst Azure OpenAI von Microsoft und auf Google Cloud. Später kam der Dienst Bedrock von Amazon hinzu, der Zugang zu vielen Modellen bietet, damit die Plattform nicht von einem einzigen Anbieter abhängt.

Bis 2025 liefen auf der Plattform neben dem einfachen Chat viele spezialisierte Assistenten und Agenten. Ein Beispiel ist VivaOGPT bei Veolia Eau France, dem Wassergeschäft des Konzerns in Frankreich; der Assistent liest Ausschreibungsunterlagen von Kommunen, die ihre Wasserversorgung auslagern wollen.

Wie sie vorgegangen sind

Die IT-Teams entwickelten das Werkzeug in zwei Monaten. Die Einführung erfolgte bewusst in Stufen, um die Skalierbarkeit zu testen: 400 Beschäftigte im Juli 2023, 2.000 in der Zentrale im September, dann alle Beschäftigten im Oktober 2023. Retrieval-Augmented Generation (RAG), bei der das System zuerst Passagen in Unternehmensdokumenten sucht und daraus eine Antwort schreibt, treibt die Dokumentendienste an. Die IT-Abteilung des Konzerns finanzierte die erste Phase; die Tochtergesellschaften sollten nach Nutzung belastet werden, sobald sie Zugang erhielten.

Bei Veolia Eau France sagte die IT-Leitung dem Journal du Net, das erste Ziel sei gewesen, generative KI für alle verfügbar zu machen. Die Einheit führte 2024 Sensibilisierungsrunden durch, zuerst für die Leitungsgremien, dann für lokale Multiplikatoren, und schulte 1.500 Führungskräfte. Ab Ende 2024 ging sie zu spezifischen Werkzeugen über, beginnend mit dem Assistenten für Ausschreibungsunterlagen.

Ergebnisse

Laut der Pressemitteilung von Veolia vom Oktober 2023 hatten bis zu diesem Monat alle 213.000 Beschäftigten Zugang. Im Juni 2025 berichtete das Journal du Net von knapp 65.000 aktiven Nutzern in 45 Einheiten, was nach seiner Angabe mehr als 90 % der Angestellten des Konzerns entspricht, bei 13.000 geschulten Personen und 130 internen Assistenten.

Bei Veolia Eau France analysierte VivaOGPT nach dem Start im November 2024 knapp 150 Ausschreibungsunterlagen. Das Journal du Net berichtet von einem gesparten Arbeitstag je Unterlage und je Business Developer. Die Einheit erwartete, dass über ein volles Jahr mehr als die Hälfte ihrer Ausschreibungen, über 300 Unterlagen, über das Werkzeug laufen. Das ist eine Erwartung, kein Ergebnis.