Secure gpt : la transition de Veolia de l’ia générative vers l’ia agentique

Dans un monde où la transformation numérique est devenue inévitable, Veolia se démarque par son approche audacieuse de l’IA générative et agentique. Depuis son lancement en septembre 2023, l’application Secure GPT illustre parfaitement cette transition, symbolisant non seulement une innovation technologique mais également un engagement fort vers un futur durable. Dans cet article, nous explorerons les étapes clés de cette transformation, les défis rencontrés et comment l’intégration de solutions smart est devenue essentielle pour l’économie circulaire.

La naissance de Secure GPT : de l’IA générative à l’IA agentique

Le parcours de Veolia vers l’IA agentique a réellement pris son envol avec le lancement de Secure GPT, conçu pour rassembler un écosystème d’agents intelligents et d’assistants au service des collaborateurs. En janvier 2025, ce système compte déjà plus de 214 assistants IA, utilisés quotidiennement par 58 000 collaborateurs dans 41 entités. Ce chiffre impressionnant témoigne de l’engagement du groupe à tirer parti des nouvelles technologies pour améliorer son fonctionnement interne.

Une vision axée sur la transformation numérique

La transition vers une infrastructure basée sur l’IA à Veolia s’inscrit dans un cadre plus large de transformation numérique initié en 2013. L’entreprise, qui compte aujourd’hui plus de 218 000 employés, a ouvert la voie avec l’adoption de Google Workspace, suivie d’intégrations clés avec Google Cloud et AWS. Au fil des années, Veolia a mis en place une stratégie « cloud first », privilégiant les services en ligne pour améliorer son efficacité opérationnelle.

Cette stratégie a favorisé l’émergence de l’IA générative, incarnée par ChatGPT, qui a permis à l’entreprise de saisir les opportunités d’innovation tout en étant consciente des défis, tels que les risques de sécurité et de biais. Cette dynamique a renforcé l’idée que l’IA est un outil puissant, capable d’optimiser les processus tout en respectant des valeurs de durabilité.

Une infrastructure solide : l’architecture de Secure GPT

Dès le départ, l’architecture de Secure GPT a été conçue « by design » pour intégrer différents modèles de langage. Qu’il s’agisse de répondre à des questions spécifiques ou de traduire des documents, chaque assistant est configurable selon les besoins des utilisateurs. Ainsi, plus de douze LLM (Large Language Model) sont disponibles, chacun étant sélectionné pour sa capacité à traiter des cas d’utilisation variés.

• LLM pour la conversation
• LLM pour la traduction
• LLM pour l’interrogation de fichiers PDF

Lors de la phase de déploiement généralisé en octobre 2023, une API bien structurée a été mise en place pour assurer l’accès aux équipes IT à travers 57 pays. Cette capacité à déployer rapidement les outils a allégé le processus et a propulsé l’efficacité de l’organisation vers de nouveaux sommets.

Un accent sur la durabilité et l’innovation

La transition vers l’IA agentique ne se limite pas à l’optimisation des processus internes, elle fait également partie d’une vision plus large de durabilité. Veolia s’engage activement dans sa démarche de durabilité en mettant en avant l’utilisation de modèles d’IA moins énergivores dans le cadre de leur programme AI for Green Up. Cette initiative vise à minimiser les coûts environnementaux inhérents à l’utilisation de l’intelligence artificielle tout en maximisant les bénéfices.

Fouad Maach, responsable de l’architecture et de l’ingénierie IT, souligne que l’objectif est d’augmenter les capacités des employés plutôt que de les remplacer, illustrant ainsi un engagement clair à respecter l’environnement tout en favorisant l’innovation.

L’évolution des systèmes d’assistance chez Veolia

En janvier 2025, Veolia a enregistré une forte utilisation de ses solutions d’assistance, témoignant de la courbe de croissance exponentielle de l’intégration des technologies intelligentes. Mais comment cette évolution s’est-elle traduite concrètement dans le quotidien des équipes ?

Les assistants IA : une réponse à des besoins variés

Les différents assistants IA développés au sein de Secure GPT peuvent être classés en trois niveaux de complexité. Cette classification permet de mieux comprendre leur capacité et leur portée :

Un assistant de niveau 3 peut, par exemple, interagir avec le système d’information de l’entreprise pour soumettre des ordres d’achat ou envoyer des courriels. Ces outils sont essentiels dans l’infrastructure de Veolia, facilitant ainsi l’échange d’informations et la prise de décisions stratégiques.

L’importance de la culture et de la formation

Un autre aspect fondamental du déploiement de Secure GPT est la formation des collaborateurs. Entre septembre et novembre 2023, un programme d’acculturation a été mis en place, visant à éduquer les employés sur les capacités de l’IA générative et agentique. Une équipe de 400 champions de l’IA a ainsi été constituée pour former plus de 13 000 employés à l’utilisation de ces nouveaux outils, ce qui a en effet facilité l’acceptation et l’intégration de ces solutions smart.

La formation ne consiste pas uniquement à enseigner les bases de l’IA, mais également à revoir les processus opérationnels. Cela permet aux équipes « data et digitales » de Co-construire des solutions alignées avec les objectifs d’économie circulaire du groupe, qu’il s’agisse de réduire les déchets ou d’améliorer les performances énergétiques.

Une tendance de plus en plus forte vers l’IA agentique

L’essor de l’IA agentique chez Veolia offre un aperçu fascinant de l’avenir de l’intelligence au sein des grandes organisations. À partir de juin 2024, des expérimentations ont été lancées pour créer une plateforme agentique qui connecte de multiples assistants et agents, chacun avec des rôles spécifiques. Ces agents peuvent interagir, échanger des informations et s’intégrer de manière transparente aux systèmes informatiques existants. Ce modèle de flux multi-agent devrait révolutionner les méthodes de travail au sein de l’entreprise.

Défis à relever et succès à célébrer

Toute transformation, même aussi prometteuse, présente son lot de défis. Pour Veolia, la gestion des risques liés à l’IA générative reste une priorité, notamment en ce qui concerne la sécurité des données et la protection contre les biais. Au fur et à mesure que les technologies progressent, l’entreprise continue d’évaluer les meilleures pratiques pour minimiser ces risques tout en exploitant les capacités de l’IA au maximum.

Identifier et minimiser les risques

Fouad Maach a évoqué des préoccupations majeures telles que l’exfiltration de données, la violation de la propriété intellectuelle et les hallucinations de modèles d’IA. Analyser ces enjeux est fondamental afin de garantir non seulement la protection de l’entreprise, mais aussi la confiance des utilisateurs dans ces technologies. Veolia travaille ainsi à développer des stratégies d’atténuation robustes, garantissant que l’IA générative et agentique soit compatible avec ses valeurs de durabilité et d’éthique.

Établir des performances grâce à l’innovation

En se lançant dans cette voie, Veolia ne se contente pas d’adopter des technologies : elle crée une culture d’innovation teintée de responsabilité. En intégrant l’IA générative et agentique, l’entreprise s’assure qu’elle reste à la pointe, non seulement pour ses équipes, mais également pour ses clients et l’environnement. L’ensemble de ce processus poserait les fondations d’un réseau d’assistance intelligent, garantissant des solutions efficaces pour des enjeux complexes liés aux ressources naturelles et à la gestion des déchets.

Une vision d’avenir portée par l’innovation et la collaboration

Veolia incarne une vision d’avenir où l’innovation technologique et la durabilité ne sont pas des éléments opposés, mais complémentaires. À travers sa plateforme Secure GPT et son approche active envers l’énergie et l’environnement, l’entreprise œuvre pour un monde où l’IA générative et agentique transforme l’exploitation des ressources en un modèle d’économie circulaire.

Enfin, alors que les solutions technologiques continuent d’évoluer, la clé du succès réside dans une approche proactive, combinant formation, collaboration, et évaluation constante des résultats. En maintenant cet équilibre entre avancer technologiquement et rester ancrée dans les valeurs fondamentales de durabilité et d’éthique, Veolia se positionne idéalement pour affronter les futurs défis de l’environnement et du développement durable.