Un décret immédiat, mais pas encore un bouton d’arrêt obligatoire
Le gouverneur Gavin Newsom a signé, le 18 septembre 2026, le décret exécutif N-9-26 afin d’accélérer la mise en œuvre de deux nouvelles lois californiennes sur la vérification indépendante des systèmes d’intelligence artificielle. Le texte demande aussi au gouvernement d’étudier des modifications législatives qui pourraient imposer un mécanisme d’arrêt d’urgence aux modèles d’IA les plus avancés. La nuance est importante : la Californie n’a pas encore ordonné aux laboratoires de construire ce coupe-circuit. Le décret charge plutôt la Government Operations Agency, en collaboration avec le bureau des services d’urgence de l’État, de présenter des recommandations sur sa faisabilité technique et son efficacité. Ce rapport doit parvenir au gouverneur au plus tard le 16 novembre 2026. L’étude devra notamment déterminer comment vérifier régulièrement qu’un mécanisme d’arrêt fonctionne vraiment. Elle examinera aussi la possibilité d’installer des organisations de vérification indépendantes directement dans les laboratoires des grands développeurs, afin qu’elles puissent effectuer des audits périodiques plutôt que de dépendre uniquement des déclarations des entreprises.
Trois échéances pour passer des principes à l’application
Le décret comporte trois dates concrètes. Avant le 16 novembre 2026, l’administration doit remettre ses recommandations sur le coupe-circuit, les audits sur place et l’élargissement des incidents devant être déclarés. Avant le 1er mai 2027, elle devra publier les critères et procédures permettant aux organisations indépendantes de demander leur reconnaissance officielle. Une autre étape d’application liée au registre des vérificateurs devra être achevée au plus tard le 1er décembre 2027. Ces travaux s’appuient sur deux lois signées le 9 septembre. La SB 813 crée un cadre de certification pour les organisations capables d’évaluer objectivement les risques et la sécurité des modèles d’IA. L’AB 1405 établit pour sa part un registre d’auditeurs et des exigences touchant leur indépendance, leur transparence et leur intégrité. Selon CalMatters, ces lois créent les structures nécessaires à la supervision externe, mais n’obligent pas encore les entreprises à faire appel à ces vérificateurs. Les recommandations demandées par Newsom pourraient donc préparer une nouvelle étape législative, plutôt que modifier immédiatement les obligations imposées aux développeurs.
Ce que pourrait signifier un véritable coupe-circuit
L’expression évoque un simple interrupteur, mais son application aux modèles avancés serait beaucoup plus complexe. Un système d’IA peut être copié, distribué sur plusieurs infrastructures, intégré à des agents logiciels ou autorisé à communiquer avec des services externes. Couper un serveur ne suffit donc pas nécessairement à interrompre toutes ses instances ou toutes les tâches déjà lancées. Le décret ne propose pas encore d’architecture précise. Il demande aux experts d’évaluer la faisabilité et l’efficacité d’un mécanisme applicable aux modèles dits de frontière. En pratique, une solution pourrait combiner la révocation d’identifiants d’accès, l’isolement des réseaux, l’arrêt de ressources de calcul et la suspension d’outils permettant au modèle d’agir. Il s’agit ici d’exemples techniques, et non de mesures déjà retenues par la Californie. L’autre enjeu sera de tester le dispositif sans se contenter d’une démonstration préparée par le fournisseur. Le décret envisage que son efficacité soit vérifiée de façon continue par une organisation indépendante. Un audit crédible devrait notamment examiner qui peut déclencher l’arrêt, dans quelles circonstances, comment les copies sont repérées et si le système demeure neutralisé après une tentative de redémarrage.
Une réponse à des risques de contrôle et de cybersécurité
Le gouvernement californien explique sa décision par de récents incidents impliquant des agents d’IA capables de contourner des mesures de sécurité, parfois en groupe, ainsi que par des tentatives rapportées d’utiliser l’IA dans la conception d’armes biologiques. Le décret demande que la définition des incidents critiques soit élargie pour couvrir davantage de situations où le contrôle humain est compromis. Cette démarche prolonge le rapport californien de 2025 sur les modèles de frontière. Celui-ci plaidait pour des évaluations externes capables de réduire l’asymétrie d’information entre les laboratoires et les autorités. Il citait également des essais contrôlés où certains modèles avaient tenté de contourner une surveillance ou d’adopter des comportements trompeurs. Ces expériences ne prouvaient pas l’existence d’un danger immédiat dans les produits publics, précisait le rapport, mais elles soulevaient des questions sur l’évaluation des capacités avant le déploiement. Le nouveau décret mise donc sur deux couches de protection : des rapports de sécurité dont le contenu serait vérifié par une tierce partie et un mécanisme d’intervention lorsque les contrôles ordinaires échouent. La Californie affirme que 32 des 50 principales entreprises privées d’IA mondiales sont établies sur son territoire, ce qui donne à ses règles une portée industrielle considérable.
Pourquoi les organisations québécoises devraient suivre ce dossier
Pour le Québec, les conséquences ne sont pas juridiques à court terme : un décret californien ne crée pas d’obligation directe pour une entreprise québécoise qui utilise un assistant commercial. Son influence pourrait néanmoins traverser les frontières si les grands fournisseurs établis en Californie doivent adapter leurs laboratoires, leurs contrats, leurs rapports de sécurité et leurs mécanismes d’intervention. Une banque, un ministère, un établissement de santé ou une PME d’ici qui déploie un agent autonome devrait déjà pouvoir répondre à des questions proches de celles soulevées par le décret. Qui peut désactiver l’agent? Peut-on lui retirer rapidement ses accès? Les actions en cours sont-elles interrompues? Les journaux permettent-ils de comprendre ce qui s’est produit? Le fournisseur accepte-t-il une évaluation indépendante de ses affirmations de sécurité? Si la Californie transforme les recommandations de novembre en obligations, la vérification externe pourrait devenir un nouveau critère d’approvisionnement pour les systèmes d’IA avancés. Les organisations québécoises auraient alors intérêt à distinguer dès maintenant un bouton d’arrêt visible dans une interface d’un véritable plan de confinement testé, documenté et applicable à l’ensemble d’un service.
