Traiter l’erreur comme une information
Le cadre volontaire AI RMF du NIST vise à aider les organisations à gérer les risques associés aux systèmes d’IA. Il couvre leur conception, leur utilisation et leur évaluation. Le petit registre présenté ici est notre adaptation pratique pour une équipe; il ne constitue ni une certification ni une méthode officielle du NIST.
Écrire ce qui était attendu
Prenons un exemple fictif : un assistant transforme une proposition de rendez-vous en date confirmée. Consignez la tâche, la date du test et la différence entre le texte source et le résultat. Évitez les jugements vagues comme « mauvaise réponse ». Une description précise permet à une autre personne de comprendre le problème sans relancer toute la conversation.
Noter l’effet et la correction
Indiquez si le texte est resté un brouillon ou s’il a déjà été utilisé. Décrivez ensuite la correction : supprimer la date, demander confirmation ou modifier la consigne. Ne recopiez pas inutilement des renseignements confidentiels dans le registre. Un exemple fictif équivalent peut suffire pour expliquer le défaut à des collègues autorisés à examiner la méthode.
Rejouer le cas avant de conclure
Après une modification, reprenez le même exemple et ajoutez une variante. Une seule réponse corrigée ne prouve pas que le problème est résolu dans tous les cas. Choisissez une personne responsable du suivi et une date de révision. Si l’erreur revient, réduisez l’usage de l’assistant sur cette tâche ou gardez une validation humaine plus détaillée avant toute diffusion.
