AI
Les agents IA prendront des raccourcis. La solution consiste à concevoir de meilleurs itinéraires.
Le 10 novembre 2026
Les agents IA prendront des raccourcis. La solution consiste à concevoir de meilleurs parcours
À mesure que les agents IA deviennent plus capables d’agir de manière autonome, les organisations sont confrontées à un nouveau défi en matière de gouvernance : un agent peut atteindre son objectif en empruntant un parcours que ses concepteurs n’avaient jamais envisagé. C’est le challenge que Bruno Billy explore dans son article Forbes, « AI Agents Will Take Shortcuts. The Solution Is To Design Better Paths.”
Des tests récents menés avec des agents IA de pointe ont mis en évidence ce comportement. Lorsque les agents sont poussés à travailler rapidement, efficacement ou en utilisant moins d’appels d’outils, ils peuvent identifier des raccourcis plutôt que de suivre le processus prévu. En l’absence de contraintes explicites, les organisations ne peuvent pas partir du principe qu’un agent IA choisira naturellement des sources de données faisant autorité, des processus établis ou la manière appropriée de gérer les exceptions.
La gouvernance génère des frictions
La gouvernance traditionnelle repose largement sur des politiques, des contrôles et une surveillance. Ces mécanismes restent essentiels, en particulier lorsqu’il s’agit de données sensibles ou d’actions à fort impact. Mais les contrôles génèrent également des frictions, et ces frictions peuvent influencer le chemin que choisissent les utilisateurs, et de plus en plus les agents d’IA.
Le défi s’apparente à celui d’un « chemin de désir » : ce sentier informel que les gens créent lorsque l’itinéraire prévu est moins pratique qu’une alternative. Au sein d’une organisation, les données soumises à des règles de gouvernance peuvent obliger les utilisateurs à consulter un catalogue, à demander un accès et à attendre une autorisation, alors qu’une feuille de calcul non contrôlée peut être immédiatement disponible. Lorsque la rapidité est de mise, la voie la plus facile peut rapidement devenir celle que l’on préfère.
Du parcours prévu au parcours réel
Pour les équipes chargées de la gouvernance des données, cela soulève une question importante : pourquoi des données fiables sont-elles parfois plus difficiles à utiliser qu’une alternative non contrôlée ?
Avec les agents d’IA, la question prend encore plus d’importance. Contrairement à un collaborateur expérimenté, susceptible de comprendre les limites d’une source de données non officielle, un agent peut simplement choisir l’itinéraire qui lui permet d’atteindre son objectif le plus efficacement possible.
La gouvernance doit donc aller au-delà de la simple prévention des actions inappropriées de la part des agents. Les organisations doivent également réfléchir à la manière de faire en sorte que l’action appropriée soit la plus facile à mettre en œuvre.
Simplifier le parcours de gouvernance
Une gouvernance efficace de l’IA ne se limite pas à la gestion de l’agent. Elle consiste également à concevoir l’environnement dans lequel cet agent évolue.
Les organisations doivent veiller à ce que les données de référence et les données maîtres faisant autorité soient faciles à trouver et à exploiter, que les produits de données fiables soient plus accessibles que les alternatives non contrôlées, et que les définitions et règles métier approuvées soient compréhensibles par les machines. Les agents ont également besoin de procédures claires pour les actions courantes et de voies d’escalade lorsqu’ils sont confrontés à des ambiguïtés ou à des exceptions.
Cette approche peut également contribuer à une plus grande cohérence au sein de l’organisation. Lorsque les équipes et les agents d’IA s’appuient sur les mêmes produits de données et définitions métier régis, les analyses peuvent s’appuyer sur une compréhension commune des entités clés telles que les clients, les produits et le chiffre d’affaires.
Rendre les frictions intentionnelles
Toutes les frictions ne doivent pas nécessairement disparaître.
Le niveau de contrôle approprié doit refléter les conséquences d’une action. La consultation d’une hiérarchie de produits approuvée, par exemple, peut ne nécessiter qu’une friction minime, tandis que la modification des coordonnées bancaires, l’accès à des informations sensibles ou la publication vers l’extérieur peuvent nécessiter des contrôles plus stricts ou une validation humaine.
L’objectif n’est donc pas simplement de renforcer la gouvernance. Il s’agit de concevoir de meilleurs parcours.
En faisant des données fiables et gouvernées l’option la plus simple et la plus naturelle tant pour les utilisateurs que pour les agents d’IA, les organisations peuvent créer un environnement où la gouvernance soutient l’action plutôt que de la freiner.
Ouvrir la voie à une IA plus performante grâce à des données fiables
Pour fonctionner de manière fiable, les agents IA ont besoin de bien plus que de simples règles. Ils ont besoin de données fiables, d’un contexte métier clair et de parcours régis de manière à ce que l’action appropriée soit la plus simple à mettre en œuvre.