Les outils d'automatisation proposent désormais des nœuds de modèle de langage. Cela ouvre des travaux que les flux à règles ne résolvent pas, mais mettre un modèle à chaque étape est une erreur fréquente.
01. Où c'est utile
Extraire de l'information d'un texte libre, classer les demandes entrantes, normaliser des documents de formats variés, rédiger des brouillons de réponse. Leur point commun : l'entrée n'a pas de structure fixe.
02. Où c'est superflu
Additionner, comparer, calculer des dates, apparier des enregistrements. Ce sont des tâches déterministes ; écrites en code elles sont gratuites et sans erreur. Les confier à un modèle apporte coût et incertitude à la fois.
03. Agent ou chaîne
Une chaîne est une structure dont vous fixez l'ordre. Un agent décide seul quel outil appeler et quand. Les agents sont souples mais imprévisibles ; dans les processus critiques, préférez la chaîne.
04. Validation humaine
Toute sortie vers l'extérieur engageant de l'argent ou la réputation doit passer par un contrôle humain. Laisser une étape de validation facilite aussi l'acceptation en interne.
05. Maîtrise des coûts
Les appels au modèle sont facturés par document. Sur les flux à gros volume, poser d'abord un filtre bon marché et n'envoyer au modèle que les enregistrements utiles divise le coût par plusieurs.
06. Limites de données
Choisissez sciemment quel modèle reçoit des textes contenant des données personnelles ou des secrets d'affaires. C'est exactement là que se distinguent les services d'entreprise sous contrat et les modèles exécutés chez vous.