Une politique réécrite pour des agents plus autonomes
Anthropic a publié le 8 octobre une nouvelle version de sa politique d’utilisation, qui entrera en vigueur le 12 novembre. Le texte s’applique aux personnes qui utilisent Claude.ai ou Claude Code, aux développeurs qui passent par l’API, aux clients des fournisseurs infonuagiques et aux utilisateurs finaux d’un produit intégrant Claude. L’entreprise explique cette révision par des modèles qui accomplissent maintenant des tâches plus longues et plus indépendantes. La mise à jour ne se limite donc pas aux réponses d’un robot conversationnel. Elle couvre ce qui arrive lorsqu’un modèle recommande une décision importante, agit dans un logiciel ou transmet une commande à une machine. Anthropic précise qu’elle peut avertir un client, limiter son débit, suspendre ou fermer son accès lorsqu’elle soupçonne une violation. Des protections en temps réel peuvent aussi bloquer certaines sorties, mais un blocage ponctuel ne signifie pas automatiquement qu’un utilisateur a enfreint la politique.
Un opérateur doit pouvoir voir, arrêter et reprendre la main
La nouveauté la plus concrète concerne les actions physiques à haut risque. Les exigences s’appliquent quand une sortie de Claude est exécutée sans approbation humaine par du matériel capable de se déplacer parmi des personnes, d’appliquer une force dangereuse, de contrôler de l’énergie ou des matières à risque, d’agir sur le corps humain, de commander un système de sécurité ou de piloter un procédé industriel. Un chariot mobile, une presse, une vanne, un appareil de dosage ou un arrêt d’urgence peuvent donc entrer dans cette catégorie selon leur usage. Anthropic exige qu’une personne qualifiée puisse observer l’équipement et l’arrêter en tout temps. La machine doit s’immobiliser ou conserver un état sûr si cette personne intervient ou si la connexion au service est perdue. Les limites de vitesse, de force, de portée, de température, de pression, de tension ou de zone de travail doivent être appliquées par la machine ou par un contrôleur indépendant des sorties du modèle. Une simple instruction écrite dans l’invite ne répond donc pas à l’exigence.
Les décisions sensibles gardent une responsabilité humaine
Pour les recommandations à haut risque, le principe de supervision humaine demeure. Une personne qualifiée doit examiner réellement la recommandation, avoir le pouvoir de la modifier et rester responsable de ce qui est livré ou décidé. La personne touchée doit aussi être informée qu’une IA a participé au conseil ou à la décision, sans qu’il soit nécessaire de nommer Anthropic ou la version précise du modèle. La politique énumère onze domaines : droit, médecine, finances, crédit, assurance, logement, emploi, éducation et titres professionnels, accès aux soins, services publics ainsi que statut juridique et décisions administratives. Par exemple, un modèle peut aider à préparer le dossier d’un candidat, mais un humain qualifié doit revoir une recommandation qui sert à l’embaucher ou à le rejeter. Anthropic présente surtout cette section comme une clarification de règles déjà appliquées. Les décisions policières et judiciaires comme enquêter, arrêter ou accuser une personne demeurent carrément interdites plutôt que simplement soumises à une révision humaine.
Les faux réseaux de contenu deviennent une catégorie distincte
Anthropic regroupe aussi ses interdictions sur les campagnes trompeuses. Il sera interdit d’exploiter de faux comptes, médias ou organisations pour cacher l’origine d’un message, de simuler artificiellement l’appui à une idée, de masquer le commanditaire d’une campagne ou de bâtir l’infrastructure qui automatise ces pratiques. Le texte vise également les réseaux de sites qui semblent indépendants, mais répètent une même source afin d’influencer les moteurs de recherche ou les réponses d’autres systèmes d’IA. La section électorale est recentrée sur la tromperie et la perturbation des processus démocratiques. Anthropic retire son interdiction générale du ciblage politique personnalisé, car elle bloquait aussi des usages civiques comme traduire de l’information aux électeurs ou envoyer un avis pour corriger un bulletin. La manipulation fondée sur de fausses informations, l’usurpation d’identité, les données personnelles utilisées abusivement ou les messages automatisés qui cachent leur origine reste interdite. Cette nuance élargit certains usages permis tout en explicitant les techniques prohibées.
Ce que les organisations devraient vérifier avant le 12 novembre
Une organisation qui intègre Claude devrait d’abord classer ses usages. Un agent qui rédige un brouillon n’a pas le même niveau de risque qu’un système qui classe des candidatures ou déclenche un convoyeur. Pour chaque action physique, il faut documenter qui observe la machine, où se trouve l’arrêt, ce que fait l’équipement lorsque le réseau tombe et quel composant impose les limites sans dépendre du modèle. Un essai réaliste de perte de connexion vaut davantage qu’une promesse dans un diagramme. Pour les décisions sensibles, il faut nommer le réviseur qualifié, conserver la trace de son intervention et afficher clairement l’usage de l’IA à la personne concernée. Les équipes de communication devraient aussi vérifier si leurs outils créent des comptes, publient en série ou masquent la source d’un contenu. La politique d’Anthropic ne remplace aucune loi, certification de machine ou obligation de santé et sécurité. Elle demeure une règle contractuelle du fournisseur et son efficacité dépendra de l’application. Elle fournit néanmoins une liste assez précise pour transformer une discussion abstraite sur la supervision humaine en contrôles que l’on peut tester.
