Deux systèmes ajoutés à une même génération
Google élargit aujourd’hui sa famille de processeurs Tensor Processing Unit, ou TPU, avec deux nouvelles configurations destinées aux charges de travail d’intelligence artificielle. Le TPU 8tx vise l’inférence confidentielle, c’est-à-dire l’exécution d’un modèle tout en protégeant les données pendant leur traitement. Le TPU 8i Max cible plutôt les tâches qui sollicitent beaucoup de mémoire, comme des agents qui doivent garder en contexte un grand projet logiciel ou de longues séquences vidéo. Ces noms s’ajoutent aux TPU 8t, conçus pour l’entraînement à grande échelle, et 8i, orientés vers le raisonnement et l’inférence à faible latence. Google dit ainsi lancer quatre systèmes de huitième génération dans une même année, une première pour son offre de TPU. Le détail compte : 8tx et 8i Max ne sont pas présentés comme deux nouvelles puces entièrement conçues depuis zéro. Ce sont des systèmes qui réorganisent les composants et le réseau autour de silicium déjà utilisé dans la génération 8.
Le 8tx veut protéger les données pendant l’inférence
Quand un système traite un dossier client, un document juridique ou des données de santé, le chiffrement au repos et pendant le transfert ne règle pas toute la question. Les données doivent être déchiffrées en mémoire pour être calculées. Le TPU 8tx est conçu pour isoler et protéger les données et les poids du modèle même pendant cette étape, selon Google. L’entreprise le destine notamment aux organisations réglementées et aux gouvernements qui veulent faire fonctionner des modèles ou des agents près de renseignements sensibles. Le système reprend le silicium du TPU 8t et l’associe à des processeurs hôtes AMD EPYC de cinquième génération ainsi qu’au réseau à faible latence Boardfly de Google. L’entreprise avance une latence jusqu’à deux fois plus basse que celle du 8t, avec une pénalité de performance presque nulle. Ce sont des résultats annoncés par Google, pas une comparaison indépendante publiée avec des charges de travail comparables. Le 8tx pourrait aussi permettre d’ajuster un modèle avec des données privées et de l’exécuter ensuite dans le même environnement, sans déplacer ces données entre des grappes différentes.
Le 8i Max s’attaque au manque de mémoire
Les agents autonomes font souvent des pauses pour appeler un outil, lire une base de données ou attendre une approbation. Lorsqu’ils reprennent, ils ont besoin de retrouver le contexte déjà accumulé. Pour des tâches longues, la mémoire et les échanges entre accélérateurs peuvent donc freiner le système avant que la puissance de calcul soit pleinement utilisée. Google a combiné deux puces TPU 8i dans un même boîtier pour créer le 8i Max. L’entreprise affirme que cette configuration double le calcul, la mémoire SRAM intégrée et la bande passante de mémoire HBM par rapport au 8i. Elle vise les contextes volumineux, le travail de plusieurs agents sur une base de code et l’analyse de longues vidéos. Google présente cette configuration comme capable de soutenir des contextes à l’échelle du million de jetons. Cette cible annoncée ne prouve pas qu’un agent donnera de meilleures réponses ni que chaque modèle pourra l’exploiter efficacement dans une application réelle. Le billet ne précise pas le prix du système.
Le changement se joue autour des puces
Le message stratégique de Google est moins « une puce pour tout faire » qu’un ensemble de systèmes adaptés à des contraintes différentes : entraînement, inférence rapide, confidentialité et mémoire. C’est une réponse à la montée des agents, qui enchaînent des actions et conservent de l’état, mais aussi aux organisations qui ne peuvent pas envoyer leurs données partout. Pour une équipe informatique, cela peut élargir les choix d’infrastructure au-delà des processeurs graphiques couramment associés à l’IA. Google accompagne l’annonce d’un effort d’ouverture logicielle : l’entreprise indique que du code PyTorch peut maintenant fonctionner sur TPU avec TorchTPU, et mentionne des outils pour le service de modèles et l’optimisation. Une partie des logiciels est en aperçu ou en disponibilité générale selon le composant. Cela peut réduire le travail nécessaire pour essayer un accélérateur spécialisé, mais ne rend pas automatiquement les modèles interchangeables. Il faut encore vérifier les bibliothèques, les outils d’exploitation, la portabilité des données et le coût complet d’un déploiement.
Les acheteurs devront attendre des mesures comparables
L’annonce donne des orientations utiles, mais laisse des questions concrètes sans réponse. Google ne précise pas ici le prix, les régions où ces systèmes pourront être commandés, le calendrier de disponibilité ni des résultats vérifiés par un tiers sur des charges indépendantes. La page de son offre TPU marque encore la disponibilité de certains systèmes de cette génération comme « bientôt ». Une organisation ne peut donc pas traiter les gains annoncés comme une économie acquise. Avant un projet pilote, il faudra mesurer le coût par tâche terminée, la latence en situation réelle, la disponibilité du service et les exigences de conformité. Pour le 8tx, demandez comment l’isolation est attestée et quelles clés ou politiques restent sous le contrôle du client. Pour le 8i Max, comparez des agents et des modèles identiques, avec le même contexte et les mêmes critères de qualité. L’annonce signale une diversification de l’infrastructure d’IA; ce sont l’accès effectif et des essais reproductibles qui montreront si elle change les choix des équipes.
