L'une des raisons pour lesquelles les projets d'agents calent en production est qu'aucun plan de retour arrière n'a été pensé. Arrêter un flux autonome qui dérape et en annuler l'effet se conçoit dès le départ.
01. Classer le risque
Répartissez les opérations en trois : réversibles à faible impact, réversibles mais visibles, et irréversibles. La troisième classe doit toujours passer une validation humaine.
02. Placer la validation au bon endroit
Demander une validation à chaque étape vide l'agent de son sens. Le bon choix est une validation là où quelque chose sort de l'entreprise ou crée un effet durable, en laissant libres les étapes intermédiaires.
03. Rendre la validation utile
Montrez au valideur ce qu'il valide : l'opération, les enregistrements concernés et le raisonnement de l'agent. Un simple bouton "valider" devient un bouton qu'on presse sans réfléchir.
04. Retour arrière
Chaque écriture doit avoir son inverse défini. Pour les opérations de masse, cela veut dire pouvoir annuler tout le lot d'un coup.
05. Arrêt d'urgence
Il doit exister un interrupteur qui stoppe tous les flux d'agents. Les éteindre un à un au moment du problème coûte précisément le temps qui compte.
06. Déploiement progressif
Faites d'abord tourner un nouvel agent en mode fantôme : qu'il produise des décisions sans les exécuter. Lorsqu'elles concordent assez avec les décisions humaines, passez-le en autonome.