L’assistant ne répond plus seulement à ce qu’on lui écrit
La première génération d’assistants grand public travaillait surtout avec le texte fourni dans une conversation. Les produits actuels peuvent aussi consulter des courriels, des calendriers, des fichiers, des photos, une position approximative et des données financières. OpenAI décrit des applications connectées qui cherchent dans Google Drive ou Slack, utilisent la mémoire et, selon les permissions, exécutent certaines actions. Google indique que la personnalisation de Gemini peut combiner notamment Gmail, Calendar, Drive, Photos, Wallet, YouTube et les données de services de recherche. ChatGPT Finances illustre cette transition. Aux États-Unis, Plaid peut relier plus de 12 000 institutions financières et Experian peut fournir un dossier de crédit distinct. Une question comme « Puis-je me permettre ce voyage? » peut alors tenir compte de dépenses, de factures et d’un objectif mémorisé. Le fait observable est que les fournisseurs élargissent le contexte disponible. Notre interprétation est que la valeur d’un assistant se déplace : elle dépend de moins en moins d’une consigne spectaculaire et de plus en plus de la qualité, de la portée et de la fraîcheur des données auxquelles il peut accéder.
Davantage de contexte améliore la pertinence, pas automatiquement la vérité
Une réponse personnalisée peut être réellement meilleure. Un assistant qui connaît l’horaire d’une famille, ses réservations et son adresse de départ peut proposer un itinéraire plus pratique qu’un modèle limité à une question générale. Il peut aussi éviter de redemander des renseignements déjà fournis. Cette pertinence réduit les étapes visibles et donne l’impression que l’outil comprend la situation dans son ensemble. Elle ne corrige toutefois pas toutes les sources d’erreur. Un compte peut transmettre un solde sans l’historique complet. Un calendrier peut contenir un événement annulé. Une facture peut être classée dans la mauvaise catégorie. Le profil du NIST sur l’IA générative traite notamment la fabulation, la confidentialité des données et la sécurité de l’information comme des risques distincts à gérer. Le document ne dit pas que toute personnalisation augmente les erreurs. Il rappelle plutôt qu’un système génératif peut produire une réponse plausible malgré des données ou un raisonnement imparfaits. Plus de contexte aide lorsque ce contexte est pertinent et exact; il peut aussi fournir davantage de détails vrais autour d’une conclusion fausse.
Les permissions forment maintenant une chaîne difficile à voir
Un bouton de connexion ne résume pas à lui seul ce qui circule. OpenAI distingue l’accès accordé au fournisseur, les règles de l’espace de travail, les permissions d’action, la mémoire, la conservation et le réglage qui autorise l’amélioration des modèles. Pour les comptes personnels Free, Go, Plus et Pro, l’information tirée d’applications peut servir à l’entraînement si l’option correspondante est activée. Google explique pour sa part que les données d’applications connectées peuvent inclure des courriels, des fichiers, des photos, des renseignements de Wallet, une localisation et des inférences sur les relations ou les intérêts. Ces mécanismes ne sont pas identiques, et leurs documents changent avec les produits. Le point commun est la multiplication des couches. Déconnecter une source peut arrêter un accès futur sans effacer une conversation qui cite déjà les données. Dans ChatGPT Finances, OpenAI annonce la suppression des données synchronisées dans un délai de 30 jours après la déconnexion, tandis que les conversations doivent être supprimées séparément. Notre analyse est qu’un consentement ponctuel devient insuffisant comme modèle mental. L’utilisateur doit comprendre la source, le type de donnée, la mémoire créée, l’usage secondaire et la façon d’effacer chaque copie.
Une erreur familière paraît souvent mieux fondée qu’une erreur générale
Imaginons un assistant qui recommande de réduire les sorties au restaurant parce qu’il reconnaît plusieurs opérations semblables. La conclusion semble précise si elle cite les montants, les dates et un objectif d’épargne déjà mémorisé. Pourtant, certaines opérations pourraient être des remboursements de groupe ou des dépenses professionnelles remboursables. Les détails exacts rendent alors l’ensemble plus crédible sans valider la catégorie ni le conseil. Une personne risque de vérifier moins attentivement une réponse qui emploie son vocabulaire et connaît ses habitudes. Cette proposition est une interprétation éditoriale, pas un résultat expérimental tiré des documents des fournisseurs. Elle découle d’une asymétrie pratique : l’assistant peut combiner beaucoup de contexte rapidement, tandis que l’utilisateur ne voit pas toujours quelles données ont pesé dans la conclusion. Une interface fluide masque facilement une source absente ou une donnée périmée. Le problème dépasse les finances. Un résumé de courriels peut attribuer une décision à la mauvaise réunion; un plan de voyage peut reprendre une ancienne adresse; une recommandation familiale peut confondre les préférences de deux personnes. La familiarité doit donc déclencher une demande de preuve, pas remplacer la vérification.
La bonne personnalisation devrait aussi rendre ses limites personnelles
Un assistant véritablement utile devrait pouvoir montrer quelles sources il a consultées, quand elles ont été mises à jour et quels éléments manquent. Pour une décision importante, l’utilisateur peut demander une réponse en trois parties : données utilisées, hypothèses et points à confirmer. Il peut tester le système avec une information volontairement périmée, puis vérifier si l’outil la signale ou l’emploie sans réserve. Dans une organisation, les administrateurs peuvent limiter les sources, conserver les journaux d’accès et exiger une approbation avant toute action qui modifie un système externe. Les limites de cette analyse doivent rester claires. Les fonctions décrites varient selon le pays, le forfait, l’appareil et les réglages. Les politiques d’OpenAI et de Google ne permettent pas de mesurer le taux réel d’erreurs après personnalisation, et le profil du NIST fournit un cadre de gestion plutôt qu’un classement de produits. Les faits montrent une expansion rapide du contexte connecté. Notre conclusion est que la personnalisation change la nature de la confiance : il ne suffit plus de demander si le modèle répond bien. Il faut aussi savoir ce qu’il connaît, d’où vient cette connaissance et comment une personne peut corriger ou retirer ce contexte.
