Google a présenté lundi 9 novembre deux nouveaux systèmes de processeurs tensoriels de huitième génération, élargissant son offre de matériel d’intelligence artificielle pour les clients qui recherchent soit une meilleure protection des données sensibles, soit une capacité mémoire accrue. Les TPU 8tx et TPU 8i Max rejoignent deux systèmes annoncés en avril, selon l’entreprise, qui cherche à renforcer sa place sur le marché des capacités de calcul pour l’IA.
Google précise que ces nouveautés sont des configurations bâties autour de puces existantes, et non des puces entièrement nouvelles. Les TPU servaient d’abord ses propres services; ils sont désormais proposés aux clients de Google Cloud et, d’après l’entreprise, dans leurs centres de données. Google affirme compter près de 100 clients TPU. Reuters estime que cette extension accroît la concurrence avec Nvidia dans les accélérateurs d’IA.
Le TPU 8tx vise les administrations et les entreprises réglementées qui traitent des informations confidentielles. Selon Google, il reprend le silicium du TPU 8t, associé à des processeurs hôtes AMD EPYC de cinquième génération, et protège les données ainsi que les paramètres des modèles pendant leur utilisation. Google affirme que son réseau peut réduire la latence de moitié au maximum par rapport au 8t, avec une faible perte de performance.
Le TPU 8i Max cible les applications qui doivent traiter simultanément de très grands volumes d’informations, par exemple des agents d’IA analysant du code logiciel ou de longues vidéos. Il réunit deux puces TPU 8i dans un même boîtier. Selon Google, ce système double la puissance de calcul, la mémoire SRAM intégrée et le débit de la mémoire à large bande par rapport au 8i, tout en conservant le même espace dans les baies des centres de données.
Ces ajouts portent à quatre les systèmes TPU de huitième génération de Google: le 8t pour entraîner de grands modèles, le 8i pour raisonner avec moins de latence, le 8tx pour les calculs confidentiels et le 8i Max pour de vastes fenêtres de contexte. Google dit aussi étendre la prise en charge de PyTorch et d’autres outils de développement afin de faciliter l’utilisation de son matériel. Les chiffres de performance proviennent de l’entreprise et n’ont pas été vérifiés indépendamment.
Google n’a indiqué ni date générale de disponibilité ni prix dans son annonce. Les clients devront déterminer si les fonctions de sécurité, de mémoire et de logiciel répondent à leurs besoins, tandis que le groupe développe ses offres pour le cloud et les centres de données. Reuters rapporte que le chiffre d’affaires trimestriel de Google Cloud a plus que doublé, à 30,71 milliards de dollars, soulignant l’enjeu commercial de cette stratégie.
Commentaires