Una razón por la que los proyectos de agentes se atascan en producción es que nunca se pensó un plan de reversión. Parar un flujo autónomo que va mal y deshacer su efecto debe diseñarse desde el principio.
01. Clasificación de riesgo
Divida las operaciones en tres: reversibles y de bajo impacto, reversibles pero visibles, e irreversibles. La tercera clase siempre debe pasar por aprobación humana.
02. Poner la aprobación en el sitio correcto
Pedir aprobación en cada paso deja al agente sin sentido. Lo correcto es una aprobación en el punto donde algo sale al exterior o crea un efecto duradero, dejando libres los pasos intermedios.
03. Hacer la aprobación significativa
Muestre a quien aprueba qué está aprobando: la operación, los registros afectados y el razonamiento del agente. Un botón de "aprobar" a secas acaba siendo un botón que se pulsa sin pensar.
04. Reversión
Cada operación de escritura necesita su inversa definida. En operaciones masivas eso significa poder deshacer el lote entero de una vez.
05. Parada de emergencia
Debe existir un interruptor que detenga todos los flujos de agentes. Apagarlos uno a uno cuando aparece el problema cuesta justo el tiempo que importa.
06. Despliegue gradual
Ejecute un agente nuevo primero en modo sombra: que produzca decisiones sin ejecutarlas. Cuando coincidan suficientemente con las humanas, páselo a modo autónomo.