Les modèles de langage peuvent donner une réponse fausse sur un ton assuré. En entreprise, le vrai risque n'est pas la réponse fausse mais le fait que personne ne le remarque.
01. Hallucination
Un modèle peut inventer ce qu'il ne sait pas. Le contrôle le plus efficace consiste à ancrer la réponse dans un document et à montrer la source. Une réponse incapable de citer une source ne devrait pas être acceptée en usage professionnel.
02. Biais
Les tendances des données d'entraînement peuvent ressortir dans les sorties. En ressources humaines, en crédit et en évaluation client, c'est une exposition juridique directe. La cohérence des sorties entre groupes doit être mesurée régulièrement.
03. Dérive silencieuse
Quand un fournisseur met un modèle à jour, le comportement peut changer sans préavis. Faire tourner régulièrement un jeu d'évaluation fixe est le seul moyen pratique de détecter tôt la dérive.
04. Excès de confiance
Au bout d'un moment, les utilisateurs cessent de vérifier la sortie. Rendre l'incertitude visible dans l'interface et imposer une étape de contrôle sur les champs critiques rééquilibre cette habitude.
05. Manipulation de consigne
Un texte venu de l'extérieur peut porter un contenu qui agit comme une instruction pour le modèle. Les systèmes traitant des documents d'utilisateurs ou du contenu web doivent être testés là-dessus.
06. Critère d'acceptation
Définissez un seuil chiffré pour qu'une fonction d'IA parte en production. Les mises en service faites sans définir le "suffisamment bon" sont difficiles à défaire quand un problème survient.