Un investissement annoncé, pas encore un résultat
Accenture et Anthropic ont annoncé le 18 septembre 2026 la création d’une équipe d’évaluateurs intégrés chargée d’examiner des modèles d’intelligence artificielle de pointe. Chaque entreprise prévoit investir au moins 1 milliard de dollars américains au cours des cinq prochaines années pour développer cette capacité, soit un engagement annoncé d’au moins 2 milliards US au total. Cette somme ne représente toutefois ni une dépense déjà effectuée ni un transfert unique entre les partenaires. Répartie uniformément, elle équivaudrait à une moyenne théorique de 400 millions US par année, mais les entreprises n’ont pas publié d’échéancier détaillé, d’effectif cible ou de ventilation budgétaire. Il faut donc distinguer l’annonce financière de ses résultats futurs. L’équipe doit évaluer les modèles, mener des exercices offensifs de type équipe rouge, examiner leur alignement avec les objectifs humains et tester leurs mécanismes de protection. Les travaux seront dirigés par Faculty, l’entreprise spécialisée en IA appliquée acquise par Accenture. Le partenariat est non exclusif, et Anthropic affirme vouloir accueillir d’autres groupes d’évaluation.
Pourquoi intégrer les évaluateurs dans le laboratoire
Un évaluateur externe traditionnel reçoit souvent un modèle terminé, un accès limité et une période d’essai relativement courte. L’approche intégrée cherche plutôt à faire entrer l’évaluation dans le cycle de développement. Les spécialistes peuvent alors observer les changements successifs, comprendre les outils internes et tester un système avant que les décisions de lancement soient irréversibles. La veille de l’annonce, Anthropic avait précisé vouloir donner à des tiers un accès à ses processus, systèmes et données comparable à celui de ses propres équipes de gestion des risques. L’entreprise publiait aussi un aperçu de sa surveillance interne : plus d’un milliard de décisions prises par ses agents de recherche et d’ingénierie avaient été analysées en août 2026. Environ 0,002 % avaient été bloquées, soit près d’une décision sur 47 000. Ces chiffres décrivent un mécanisme observé chez Anthropic; ils ne prouvent pas que le nouveau partenariat fonctionnera. Ils illustrent néanmoins l’échelle du problème. Quand des agents exécutent des milliers d’actions, un simple test final devient insuffisant. Il faut surveiller les trajectoires complètes, les accès accordés, les tentatives contournées et la rapidité d’intervention humaine.
Une indépendance qui devra être vérifiable
L’expression « évaluateur indépendant intégré » contient une tension évidente. Pour comprendre réellement un laboratoire, l’évaluateur doit travailler près de ses équipes et accéder à des renseignements confidentiels. Pour conserver sa crédibilité, il doit aussi pouvoir formuler des conclusions défavorables sans subir de pression commerciale ou opérationnelle. Accenture et Anthropic reconnaissent que plusieurs modalités restent à définir. Les documents publiés ne précisent pas encore qui choisira les tests, quels résultats deviendront publics, comment seront traités les désaccords ni si un évaluateur pourra recommander de retarder un lancement. Ils n’expliquent pas non plus comment seront gérés les conflits entre les activités de conseil d’Accenture et son rôle d’évaluation. La valeur du dispositif dépendra donc moins du titre donné à l’équipe que de règles concrètes : mandat écrit, accès garanti, rotation des spécialistes, divulgation des conflits, conservation des traces et publication d’un résumé des constats. Une évaluation qui reste entièrement confidentielle peut améliorer un produit, mais elle ne fournit pas automatiquement une preuve publique de sécurité.
Ce que les organisations québécoises devraient demander
Le modèle annoncé concerne un laboratoire de pointe, mais il offre une leçon immédiate aux ministères, municipalités, établissements de santé, institutions financières et PME du Québec. Acheter un outil d’IA ne devrait pas signifier accepter uniquement les essais choisis par son fournisseur. Une organisation peut exiger le droit de tester le système dans ses propres scénarios, avec ses données fictives et ses contraintes réglementaires. Un appel d’offres pourrait notamment demander la liste des risques évalués, la date des derniers essais, le taux d’échec par scénario et la procédure suivie lorsqu’un modèle change. Pour un assistant de service à la clientèle, les cas devraient couvrir le français québécois, les demandes ambiguës, les renseignements personnels, les tentatives de manipulation et les situations nécessitant un transfert à un humain. Il faut aussi vérifier les actions, pas seulement les réponses. Un agent capable de modifier un dossier, d’envoyer un courriel ou de lancer une commande exige des journaux complets, des permissions minimales et un bouton d’arrêt contrôlé par l’organisation cliente. L’évaluation devient alors une activité continue, liée au fonctionnement réel du service plutôt qu’une démonstration organisée avant la signature du contrat.
Un test pour la professionnalisation de la sécurité
L’annonce marque un changement d’échelle dans l’économie de la sécurité de l’IA. Les évaluations ne sont plus présentées comme une petite étape effectuée juste avant le lancement, mais comme une fonction permanente pouvant mobiliser des équipes importantes et des budgets comparables à ceux de grands programmes technologiques. Cette professionnalisation pourrait produire de meilleures méthodes, attirer des spécialistes de domaines comme la cybersécurité, la biologie ou les services publics et créer des pratiques d’audit plus reproductibles. Elle pourrait aussi concentrer l’évaluation entre quelques grandes firmes liées commercialement aux laboratoires qu’elles examinent. L’ouverture à plusieurs évaluateurs sera donc essentielle pour comparer les méthodes et éviter qu’un seul partenaire devienne juge de référence. Pour le Québec, l’enjeu consiste à développer une capacité locale de validation indépendante, notamment en français et dans les secteurs encadrés par des obligations particulières. Les sommes annoncées sont impressionnantes, mais la véritable mesure du partenariat sera la qualité des preuves qu’il permettra de produire, de contester et, lorsque la sécurité l’exige, de rendre publiques.
