Gouvernance de l’IA

Les équipes n’ont pas attendu d’autorisation pour utiliser l’IA. La gouvernance de l’IA consiste à organiser ces usages plutôt qu’à les subir : savoir quels outils sont utilisés, pour quoi faire, avec quelles données, et qui en répond.

Concrètement, elle tient souvent en quelques éléments :

• une liste des outils d’IA autorisés et des usages prévus ;
• une charte d’utilisation : les données qu’on ne colle jamais dans un prompt, comme les données sensibles ou les secrets d’affaires ;
• des responsables : qui valide un nouvel outil, qui répond d’un outil créé avec l’IA, qui le maintient ;
• des contrôles : relecture humaine, tests et droits d’accès avant tout partage ;
• la formation des équipes, pour savoir ce que l’IA fait bien et où elle se trompe, comme lors des hallucinations.

Elle a aussi une dimension légale. L’AI Act, le règlement européen sur l’IA, classe les usages selon leur niveau de risque : certains sont interdits, d’autres, comme le tri de candidatures, sont strictement encadrés. Et le RGPD s’applique dès que des données personnelles sont en jeu.

Le piège : une gouvernance qui interdit tout. Les équipes contournent alors les règles et l’entreprise perd de vue ce qui se passe. Une bonne gouvernance rend l’usage encadré plus simple que l’usage caché.

Exemple. Le comité de direction d’un réseau d’agences immobilières adopte une charte d’une page : les outils d’IA autorisés, les données qu’on ne colle jamais dans un prompt et la personne à prévenir avant de diffuser à l’équipe un outil fait avec l’IA.