La gouvernance de l'IA : 8 conseils pour se mettre en ordre de bataille
La question de la gouvernance de l'intelligence artificielle devient centrale au sein des entreprises. Le terme figure dans toutes les bouches. Elle conditionne la réussite des projets et leur alignement sur la stratégie globale de l'organisation. Cet article fait le point sur quelques bonnes pratiques à mettre en place pour ne pas aller dans le mur, et prendre le risque d'aboutir à des projets inutiles ou peu performants.
1. Se doter d'un chief data officer au plus haut niveau
Premier conseil, il est recommandé de se doter d'un chief data officer (CDO) qui soit le plus haut placé possible. Le mieux étant qu'il fasse partie du comité exécutif. "On observe de plus en plus de CDO rattachés à la DSI. Or, la data et l'IA sont des sujets qui sont liés au business", observe Matthieu Perrin, managing director d'insight and data France chez Capgemini. Conclusion : le CDO doit être détaché de la DSI et, si possible, rattaché au CEO du groupe. Ainsi, il sera en capacité de décrocher les budgets, de réaliser les arbitrages, de mobiliser les équipes de terrain.
"Dans certains de cas, les membres du comité IA sont les membres du comité de direction, à quelques personnes près", constate Jenish Parekh, principal AI au sein du cabinet de conseil Devoteam Digital Impulse en charge de l'équipe IA strategy. "Les comités de direction prennent ainsi le sujet à bras le corps et s'impliquent pleinement dans les projets de transformation orientés IA." Et Laurent Chata, partner au sein de Devoteam Digtal Impulse en charge de la practice data et de l'IA stratégie, d'enchaîner : "La transformation vers l'IA est une transformation transverse à l'organisation qui concerne tous les métiers. Qui de mieux placer par conséquent pour être le sponsor principal d'une telle initiative que le comité de direction."
2. Impliquer toute l'entreprise
Cette transformation touche de facto l'ensemble des équipes, de l'IT au juridique en passant par la RH, la finance... "La gouvernance va donc impliquer toute l'organisation", rappelle Jenish Parekh, "jusqu'aux responsables d'unité." Au démarrage de cette transformation jusqu'au moment de l'opérationnaliser, il va par conséquent falloir maintenir la mobilisation de l'ensemble du personnel pour s'assurer qu'elle est bien alignée avec les objectifs stratégiques.
"Quand on développe une IA pour optimiser les achats d'un groupe, il faudra évidemment que le directeur des achats soit impliqué dans les processus de décision, notamment en vue de calculer la rentabilité du cas d'usage qui va être développé", illustre Jenish Parekh.
3. Mettre en place une démarche MLOps
Il est important de se poser dès le lancement de la stratégie IA la question du retour sur investissement. Dans cette optique, il est conseillé de mettre en place une démarche MLOps. "Elle permet de se poser la question de ce que peut rapporter un cas d'usage dès la phase d'idéation. Au moment des premiers développements, on peut se rendre compte que les coûts sont trop importants ou que le ROI n'est pas suffisamment haut. Il faut alors savoir mettre un terme au projet", prévient Matthieu Perrin chez Capgemini. Jenish Parekh chez Devoteam complète : "Des indicateurs clés de résultat vont être orientés vers la satisfaction client, vers le chiffre d'affaires supplémentaire généré, vers la marge." Autre critères à prendre en compte : intégrer dans le calcul du ROI un indicateur d'ESG, avec à la clé une estimation des émissions de carbone associées.
4. Elaborer des KPI orientés IA
"Au-delà des KPI orientés vers la top line et la bottom line de l'organisation figurent les KPI de gouvernance de l'IA en tant que telle autour du suivi des modèles, de leur qualité, du FinOps pour assurer le pilotage financier des projets", commente Jenish Parekh. Et Laurent Chata de renchérir : "On va d'abord définir des KPI sur la qualité des données puis sur les modèles d'IA. Le degré d'hallucination et d'output des assistants doivent notamment être monitorés au plus haut niveau. Il y a quelques mois le chatbot d'un assureur a évoqué un sinistre qui n'était pas couvert. Du coup, l'assureur a été obligé de le couvrir", illustre Jenish Parekh.
"Nous avons besoin d'une équipe de production des cas d'usage, qui va s'incarner dans une IA Factory"
Dans certains domaines, le pourcentage de LLM (large language model) propriétaires est monitoré pour favoriser le choix de LLM open source en vue d'assurer la souveraineté des projets. "Au-delà des indicateurs de qualité, on va aussi mesurer les délais de réponse du LLM. Mais aussi le nombre de collaborateurs qui utilisent les IA, et la fréquence d'utilisation", note Jenish Parekh. Autre KPI : combien de salariés recourent à des IA en mode shadow, c'est-à-dire sans en avertir leur hiérarchie ou la DSI.
5. Gérer le changement
L'évocation des termes IA et GenAI peut faire peur. "Partant de là, il faut accompagner et rassurer", conseille Matthieu Perrin. "Ces technologies permettent d'automatiser des tâches à faible valeur ajoutée et aux collaborateurs de se concentrer sur des missions de plus haut niveau." Cette démarche de sensibilisation doit être directement portée par les entités concernées.
La gestion du changement passe aussi par un processus d'acculturation. Une acculturation qui commence par le comité de direction. Ce dernier doit comprendre ce qu'est l'IA, ce qu'elle peut apporter, mais aussi quelles sont ses limites et ses risques. "Ce processus d'acculturation doit évidemment impliquer tous les maillons de la chaîne, du comité exécutif jusqu'aux directions métier", ajoute Laurent Chata.
6. Gérer la dérive des modèles
Il est important de continuer à gouverner les modèles d'IA qui peuvent se mettre à dériver dans le temps. Au-delà de la mise en production, des experts IA et métier doivent être en charge de leur supervision, et ce tout au long de leur durée de vie. "Les modèles peuvent être impactés par des événements conjoncturels liés par exemple à la guerre en Ukraine ou au réchauffement climatique. D'où l'importance de leur supervision dans le temps", argue Matthieu Perrin. "En cas de dérives, il sera nécessaire de les ré-entrainer avec les paramètres mis à jour."
7. Mettre en place une IA factory
Dans la mise en œuvre d'une transformation IA, on distingue trois typologies d'équipe. La première est axée sur la gouvernance. Elle aura pour objectif d'acculturer, de former, de gérer la feuille de route produit. La deuxième est centrée sur la gouvernance réglementaire, éthique, ainsi que sur la qualité de la donnée et des modèles de LLM utilisés. "Enfin, nous avons besoin d'une équipe de production des cas d'usage, qui va s'incarner dans une IA Factory", commente Laurent Chata. Et Matthieu Perrin chez Capgemini d'ajouter : "L'IA factory est le moteur au service d'une stratégie IA qui permet de délivrer les projets. C'est elle qui va apporter les expertise métier et techniques nécessaires."
8. Avancer de manière itérative
"Chez un client qu'on a accompagné il y a quelques mois sur des sujets de gouvernance IA, on a vu une IA Factory être mise en place pour adresser les cas d'usage des différentes entités", indique Jenish Parekh. "Les processus de décision doivent être définis dès le départ." Mais il est surtout important de mettre en place les instances de gouvernance de manière itérative, sans quoi on risque de bloquer les projets. "On commence par mettre autour de la table les représentants de chaque métier : des représentants RH, des représentants finance, du digital, de la DSI, des métiers… Objectif : aligner tous les acteurs à tous les niveaux de l'organisation sur la stratégie de l'entreprise.