Google presentó el lunes 9 de noviembre dos nuevos sistemas de unidades de procesamiento tensorial de octava generación, ampliando su oferta de hardware de inteligencia artificial para clientes que necesitan más protección de datos sensibles o mayor capacidad de memoria. Los TPU 8tx y TPU 8i Max se suman a dos sistemas anunciados en abril, según la compañía, que busca ampliar su presencia en el mercado de capacidad informática para la IA.
Google explicó que las novedades son configuraciones de sistemas basadas en chips existentes, no diseños de chips completamente nuevos. Sus TPU comenzaron como hardware para servicios propios y ahora llegan a clientes mediante Google Cloud y, según la empresa, a sus propios centros de datos. Google afirma tener cerca de 100 clientes de TPU. Reuters señaló que la expansión aumenta la competencia con Nvidia en aceleradores de IA.
El TPU 8tx está dirigido a gobiernos y empresas reguladas que procesan información confidencial. Según Google, utiliza el mismo silicio que el TPU 8t junto con procesadores anfitriones AMD EPYC de quinta generación, y protege los datos y parámetros de los modelos mientras se usan. La empresa sostiene que su diseño de red puede reducir la latencia hasta la mitad frente al 8t, con escasa pérdida de rendimiento.
El TPU 8i Max se orienta a aplicaciones que necesitan procesar grandes cantidades de información a la vez, como agentes de IA que trabajan sobre código informático o vídeos extensos. Combina dos chips TPU 8i en un solo paquete. Google asegura que duplica la capacidad de cálculo, la SRAM integrada y el ancho de banda de la memoria de alta velocidad respecto al 8i, lo que permite más procesamiento en el mismo espacio de rack.
Las incorporaciones elevan a cuatro los sistemas TPU de octava generación de Google: el 8t para entrenar modelos a gran escala, el 8i para razonamiento de menor latencia, el 8tx para procesamiento confidencial y el 8i Max para ventanas de contexto amplias. Google dice que también amplía el soporte para PyTorch y otras herramientas de desarrollo para facilitar el uso de su hardware. Las cifras de rendimiento son afirmaciones de la empresa que no se han verificado de forma independiente.
Google no indicó una fecha general de disponibilidad ni precios en su anuncio. Los clientes deberán evaluar si las funciones de seguridad, memoria y software se ajustan a sus necesidades mientras la compañía desarrolla sus ofertas de nube y centros de datos. Reuters informó de que los ingresos trimestrales de Google Cloud se duplicaron con creces hasta 30.710 millones de dólares, reflejando la importancia comercial de esta apuesta por infraestructura de IA.
Comentarios