Un rapport qui regarde au-delà des erreurs de réponse
Le Conseil de l’intelligence artificielle et du numérique (CIANum), une instance consultative française, a remis le 10 novembre un rapport consacré aux vulnérabilités liées à l’IA générative. Sa commission avait été créée en février à la demande de la ministre déléguée chargée de l’IA et du Numérique. Le document s’appuie sur 55 auditions menées auprès de chercheurs, de professionnels de la santé et de l’éducation, d’entreprises, d’organismes publics et d’associations. Son angle est plus large que les hallucinations. Les auteurs examinent comment les assistants peuvent influencer la réflexion, les choix, les relations affectives et l’accès à l’information. Ils s’intéressent aussi à la collecte de données, aux hypertrucages et aux modèles d’affaires qui pourraient tirer parti de la confiance créée par une conversation personnalisée. Le rapport ne conclut pas que tout usage est nuisible : il reconnaît des bénéfices, notamment en éducation, mais demande que la protection ne repose pas uniquement sur la vigilance de chaque personne.
Dix-huit recommandations, plusieurs obligations possibles
Le CIANum propose 18 mesures. Parmi les plus structurantes : évaluer les systèmes grand public avant leur commercialisation, puis renforcer leur surveillance après le lancement; donner aux évaluateurs un accès suffisant aux données d’usage, d’entraînement et de monétisation; et encadrer les choix de conception qui favoriseraient la dépendance ou l’engagement à tout prix. Le rapport recommande aussi des protections élevées pour les mineurs, une meilleure orientation vers des ressources d’aide lorsque des sujets sensibles apparaissent et l’interdiction de la publicité déguisée. D’autres propositions visent la transparence des déductions que les services tirent des échanges, la responsabilité des fournisseurs et la capacité de l’État à répondre aux crises de désinformation. L’idée n’est donc pas seulement d’ajouter un avertissement à l’écran. Elle touche la conception du produit, les tests, les données accessibles aux auditeurs et les mécanismes de recours. Mais le CIANum recommande : il ne légifère pas. Aucune des 18 mesures ne devient automatiquement obligatoire avec la publication du rapport.
Des chiffres à lire avec leur contexte
Le rapport rassemble des études qui alimentent ses préoccupations. Il cite notamment une expérience du MIT sur une tâche d’écriture, où l’usage d’un chatbot était associé à une baisse de 55 % d’une mesure appelée « amplitude cognitive ». Il rapporte aussi que 92 % des adolescents interrogés dans une enquête déclarent passer plus de temps qu’ils le souhaitent sur des applications d’IA générative. Ces résultats ne décrivent pas tous les utilisateurs, toutes les tâches ou toutes les plateformes. Cette nuance compte. Une expérience limitée à un exercice ne permet pas, à elle seule, d’affirmer que l’IA réduit durablement les capacités intellectuelles. Une réponse à un sondage sur le temps passé ne prouve pas une dépendance clinique. Le rapport est un état des risques possibles et des travaux disponibles, pas une nouvelle étude clinique contrôlée par le CIANum. Il rend visibles des questions à tester : quels réglages poussent à prolonger une conversation, comment un jeune comprend-il la relation avec un compagnon artificiel, et quelles pratiques de collecte permettent de déduire des informations personnelles sensibles?
Ce que les équipes peuvent déjà en tirer
Pour une école, une bibliothèque ou une entreprise québécoise, le rapport français ne crée pas de nouvelle obligation juridique. Il offre toutefois une grille utile avant de déployer un assistant auprès du public. Une équipe peut demander au fournisseur comment sont traités les échanges sensibles, quels mécanismes permettent de signaler une réponse préoccupante, comment le service protège les mineurs et si les recommandations commerciales sont clairement séparées des réponses. Un essai local peut aussi mesurer les effets recherchés et les effets indésirables : l’utilisateur trouve-t-il plus vite une information fiable, ou délègue-t-il une décision sans comprendre les limites? Peut-il corriger une déduction erronée sur lui-même? Les conversations sont-elles conservées, utilisées pour personnaliser le service ou partagées? Ce sont des questions concrètes à inscrire dans un cahier des charges et à vérifier lors d’un pilote. Pour les familles, une règle simple reste utile : un assistant peut aider à explorer une question, mais ne remplace ni un adulte de confiance ni un professionnel lorsqu’il est question de santé ou de sécurité.
La suite dépendra des gouvernements
Le CIANum demande que les pouvoirs publics et les autorités européennes renforcent les règles applicables aux assistants grand public. La remise du rapport au président français est une étape de conseil, pas l’annonce d’un projet de loi adopté. Il reste à savoir quelles recommandations seront retenues, comment elles s’articuleront avec le droit européen existant, qui conduira les évaluations et quelles données les entreprises devront rendre accessibles. Le rapport ouvre néanmoins un débat qui dépasse la France : la sécurité d’un assistant ne se mesure pas seulement à sa capacité de répondre juste. Elle dépend aussi de la façon dont il construit la confiance, de ce qu’il infère sur la personne et des moyens offerts pour contester une réponse ou signaler un préjudice. Les propositions méritent d’être suivies, tout en gardant leur statut clair : ce sont des recommandations françaises, et leurs effets pratiques dépendront des décisions politiques qui suivront.
