L’IA n’a pas de problème de données ; elle a un problème de contexte

Cet article souligne l’importance de disposer d’informations fiables, régies par des règles et contextualisées pour aider les systèmes d’IA à générer des résultats pertinents, précis et exploitables. Découvrez comment les organisations peuvent renforcer leurs fondements en matière d’IA en mettant en place la gouvernance des données, la gestion des données de référence et le contexte métier nécessaires pour transformer les données en intelligence.

Au cours de la dernière décennie, les entreprises ont massivement investi dans des plateformes cloud, des lacs de données, des pipelines de données et des environnements analytiques de plus en plus sophistiqués. D’un point de vue technologique, de nombreuses organisations semblent disposer des fondements nécessaires pour prendre en charge l’IA, mais celle-ci révèle une réalité bien différente.

La question n’est pas de savoir si les organisations sont capables de stocker, de transférer ou d’accéder aux données. La plupart d’entre elles en sont capables. La question est de savoir si les personnes, et désormais les systèmes d’IA, sont capables de comprendre, de faire confiance à ces données et de les utiliser de manière cohérente dans le bon contexte métier.

Avant une réunion de direction, les contrôleurs financiers rapprochent les rapports qui sont censés correspondre. Les équipes commerciales corrigent les transactions clients qui n’apparaissent pas dans le pipeline. Les analystes de la chaîne d’approvisionnement ajustent les indicateurs, car un entrepôt transmet toujours ses données en retard.Le contexte qui rend ces corrections possibles réside dans l’esprit des personnes. Il n’apparaît presque jamais dans les schémas de processus ni dans la documentation. Cette couche cachée d’interprétation humaine est ce qui permet à l’entreprise de fonctionner, et c’est aussi l’une des raisons pour lesquelles les projets pilotes d’IA donnent souvent d’aussi bons résultats.

Dans un projet pilote, le périmètre est restreint. Les experts en la matière sont présents dans la salle. Ils sélectionnent les données d’entrée, corrigent les résultats et ajustent les règles métier lorsque des cas limites apparaissent. Ils savent quelles exceptions sont importantes et lesquelles peuvent être ignorées. Ils peuvent indiquer au modèle, directement ou indirectement, ce qui constitue un signal et ce qui n’est que du bruit.

Le projet pilote réussit parce que le modèle s’appuie sur le jugement humain.​

Le problème survient lorsque les organisations tentent de déployer ce projet pilote à l’échelle de l’entreprise. Le produit d’IA doit alors naviguer au sein de l’entreprise à travers des systèmes, des équipes, des flux de travail et des définitions qui n’ont jamais été pleinement harmonisés.

Prenons deux exemples récents chez des clients.

Chez l’un d’entre eux, un projet pilote de chatbot basé sur l’IA a bien fonctionné dans un environnement restreint, mais a rencontré des difficultés lorsqu’il a été étendu aux services commerciaux, à la facturation, à la réussite client et au marketing. Le problème ne résidait pas seulement dans le fait que ces équipes avaient des définitions différentes du terme « client ». Il tenait également au fait que chaque équipe interagissait avec le client dans un contexte différent : le service client gérait les incidents, les commerciaux géraient les opportunités, l’équipe chargée de la réussite client gérait le développement et le service de facturation gérait les paiements. Les conseillers humains pouvaient passer d’un contexte à l’autre presque sans s’en rendre compte. Un bot, lui, en était incapable.

Chez un autre client, l’IA a été utilisée pour générer un tableau de bord des « 10 principaux clients à risque ». Le système a collecté les données et produit un classement. Les responsables l’ont ensuite examiné, et la discussion s’est enlisée. Personne ne parvenait à s’accorder sur les raisons pour lesquelles ces clients figuraient dans ce classement. Le terme « à risque » faisait-il référence au risque de désabonnement, à l’exposition des revenus, à des problèmes de service, à des difficultés de paiement, à une baisse d’engagement ou à autre chose ? Le modèle avait fourni une réponse, mais l’organisation ne s’était pas mise d’accord sur la question.

Dans les deux cas, l’IA semblait fonctionner jusqu’à ce que l’organisation doive agir sur la base des résultats. Le bot de service a rencontré des difficultés car il ne pouvait pas passer d’un contexte client à l’autre. Le tableau de bord s’est enlisé car l’expression « client à risque » revêtait des significations différentes selon les services de l’entreprise.

Il s’agit là de problèmes de contexte.

Elles mettent en lumière deux aspects que les organisations laissent souvent sous-entendus : la manière dont le travail s’organise concrètement entre les différents services et la signification que doivent revêtir les termes métier avant de pouvoir déboucher sur des actions concrètes.

C’est pourquoi le débat sur la préparation à l’IA doit aller au-delà de l’infrastructure. Une trop grande partie de la discussion reste centrée sur la technologie : quels modèles utiliser, quels « copilotes » déployer, quelles plateformes de données moderniser, voire comment mesurer l’utilisation des jetons comme indicateur de la productivité de l’IA.

Ces questions sont importantes, mais elles ne mènent pas très loin si l’entreprise ne parvient pas à s’accorder sur la signification des résultats. On peut mesurer l’utilisation des jetons au centième près sans pour autant parvenir à une réponse commune à la question fondamentale : « Que signifie réellement “client à risque” ? »

La préparation à l’IA n’est pas seulement une question d’infrastructure, d’outils ou d’indicateurs d’utilisation. Il s’agit également de savoir si l’organisation dispose d’un modèle opérationnel tenant compte du contexte.

Ce modèle opérationnel doit répondre à trois questions concrètes.

Les organisations qui réussiront dans cette démarche ne se contenteront pas de disposer de meilleures plateformes ou d’une activité plus intense en matière d’IA. Elles auront une compréhension plus claire de la manière dont le travail s’effectue réellement, des points où le sens se perd et de ce que le jugement humain a permis de maintenir.

L’IA n’a pas toujours besoin de plus de données, mais elle exige des organisations qu’elles définissent plus clairement à qui revient le sens, qui résout les conflits et comment le contexte est pris en compte à grande échelle.