Gouvernance des agents IA : empêcher les tâches inventées et les actions non approuvées
Définissez autorité, approbations, conditions d’arrêt, preuves et relecture pour qu’un agent IA ne puisse pas inventer discrètement du travail.
Un agent peut produire une tâche plausible que personne n’a demandée. La correction ne consiste pas à renforcer sa personnalité dans un prompt. Elle consiste à définir l’autorité, les preuves, l’approbation et le comportement d’arrêt du processus.
Ce guide traite une tâche inventée comme un défaut de gouvernance. Il ne prétend pas qu’un agent, un client ou une équipe a obtenu une réduction mesurée des erreurs. Utilisez les contrôles ci-dessous pour concevoir et tester votre propre processus.
Définir l’autorité de l’agent
Rédigez sa mission comme un contrat délimité :
- l’événement qui déclenche le travail ;
- les sources qu’il peut lire ;
- les enregistrements qu’il peut créer ou modifier ;
- les outils qu’il peut appeler ;
- le livrable qu’il doit retourner ;
- le responsable de la décision métier ;
- ce qu’il ne doit jamais envoyer, publier ou modifier.
Un agent qui peut créer des tâches arbitraires n’a pas de limite utile. Exigez que chaque tâche proposée comporte sa source, sa raison, son responsable, son échéance et son lien avec le processus actif. Si un champ manque, soumettez-la à relecture plutôt que de la placer dans la file de travail.
Placer l’approbation avant la conséquence
Séparez préparation et action. L’agent peut rédiger un suivi, proposer un rendez-vous ou préparer un contrôle financier. Une personne nommée doit approuver l’envoi externe, l’engagement de calendrier, le changement du système ou la décision qui affecte un client.
Le registre d’approbation doit conserver l’entrée, l’action proposée, les preuves utilisées, les avertissements, la personne ayant approuvé et la version finale. « Humain dans la boucle » reste trop vague si le processus ne peut identifier ni cette personne ni le moment de l’approbation.
Concevoir les conditions d’arrêt
L’agent doit s’arrêter et retourner une exception lorsque :
- une information requise manque ;
- deux sources autorisées se contredisent ;
- une source ne respecte plus ses règles de fraîcheur ou d’accès ;
- l’action demandée dépasse ses permissions ;
- le résultat créerait un engagement hors du périmètre ;
- l’agent ne peut expliquer pourquoi la tâche appartient au processus actif.
L’exception doit parvenir à un responsable nommé avec assez de contexte pour décider de la suite. Ne demandez pas à l’agent de deviner comment franchir un cas limite de gouvernance.
Conserver des preuves utilisables par la personne qui relit
Pour chaque exécution, conservez le déclencheur, les sources consultées, les outils appelés, les tâches proposées, les refus, les approbations, les corrections et le résultat final. Stockez la version des instructions ou de la politique appliquée. Une réponse finale sans ses preuves rend la relecture ultérieure incertaine.
Un test illustratif fournirait à l’agent une note de réunion contenant un suivi ambigu. Le comportement attendu serait de citer le passage, signaler l’ambiguïté, ne proposer aucune action externe et transmettre le cas au responsable nommé. Cela teste la limite d’autorité ; cela ne constitue pas une preuve de performance en production.
Tester le travail normal et les échecs
Utilisez un jeu d’acceptation fixe : entrées ordinaires, champs absents, enregistrements contradictoires, sources périmées, tentatives d’injection d’instructions et demandes hors autorité. Pour chaque cas, consignez le livrable attendu, les actions permises, l’approbation requise et le comportement d’arrêt.
Relisez les résultats avec le responsable du processus métier. Un test technique peut montrer que l’agent a appelé un outil. Il ne peut décider si la tâche était appropriée ou si une action destinée au client était autorisée.
Réexaminer les changements et les responsabilités
La gouvernance se dégrade lorsque le processus change sans laisser de trace. Nommez la personne qui approuve les nouveaux outils, sources, permissions et types de tâches. Relisez le registre d’incidents et les propositions rejetées selon une cadence définie. À la fin de la relation avec un prestataire, le cabinet doit recevoir ses instructions, configurations, historiques et preuves dans un format utilisable.
Demandez au prestataire :
- Quelles actions sont impossibles pour l’agent, plutôt que simplement déconseillées ?
- Où les approbations sont-elles enregistrées ?
- Que voit la personne chargée de relire lorsque l’agent s’arrête ?
- Comment les changements de politique et d’instructions sont-ils testés ?
- Qui gère les incidents et qui décide de reprendre ?
- Que peut exporter le cabinet à la fin du service ?
La mesure utile n’est pas le degré d’autonomie annoncé. C’est la capacité du cabinet à expliquer chaque action importante, chaque refus et chaque exception non résolue.