谷歌于11月9日星期一宣布推出两款第八代张量处理单元系统，扩大人工智能硬件产品线，以满足客户对敏感数据保护和更大内存容量的不同需求。新推出的TPU 8tx和TPU 8i Max加入谷歌今年4月公布的另外两款系统。谷歌表示，这项扩展旨在让其为人工智能运行提供的计算能力覆盖更多客户和使用场景，并进一步扩大相关业务。这次发布的重点是针对不同任务调整处理器周围的内存、网络、安全和封装方式。谷歌认为，人工智能模型的用途变化很快，单靠研发全新芯片难以及时满足所有需求，因此希望通过不同系统配置更快回应客户要求。两款新系统分别把注意力放在运行过程中的保密性，以及同时处理更长输入内容的能力上。
谷歌指出，这两款产品是在现有芯片基础上构建的新系统配置，并非从头设计的全新芯片。张量处理单元最初供谷歌内部服务使用，现在通过谷歌云提供给外部客户；按照公司的说法，客户还能够在自己的数据中心部署此类设备。谷歌称其张量处理单元客户已接近100家。路透社报道说，产品线扩展将使谷歌在人工智能加速器市场与英伟达的竞争进一步加剧。谷歌表示，客户既包括开发先进模型的实验室，也包括零售商、交易机构和大学。公司此前推出的8t和8i分别偏重大规模训练与实时推理；此次新增配置面向更细分的任务。路透社指出，谷歌正通过云业务向企业出售相关计算能力，这使其自研硬件的用途超出搜索、视频和自家模型等内部产品。
TPU 8tx主要面向处理保密信息的政府机构和受到严格监管的企业。谷歌表示，它采用与TPU 8t相同的芯片，并与第五代AMD EPYC主机处理器配合使用。公司称，这种硬件安全设计可在数据和模型参数正在被处理时继续保护并隔离它们，而不只是保护存储或传输中的信息。谷歌还称，采用新的网络设计后，与8t相比，系统延迟最多可降低一半，性能损失很小；这一数字来自公司的测试与说明。通常情况下，信息可以在存储时或通过网络传输时加密，但处理器执行任务时仍可能需要在内存中访问明文。谷歌称，8tx的设计正是为了应对这一环节的风险，方便客户在使用专有模型或私人资料时执行推理与模型调整。公司同时强调，这一系统面向需要兼顾合规要求和响应速度的组织。
TPU 8i Max针对需要同时处理大量信息的应用，例如分析整个软件代码库或长时间视频的人工智能代理。该系统把两枚TPU 8i芯片放在同一个封装中。谷歌称，与单个8i系统相比，它的计算能力、片上SRAM容量和高带宽内存的传输带宽都增加一倍。公司表示，这种组合使数据中心能够在同样的机架空间内放入更多计算资源，以应对大型任务中可能出现的内存瓶颈。谷歌认为，当多个自动化代理同时处理大型代码库或数小时视频时，限制处理速度的因素可能是内存带宽，而不只是单纯的计算能力。因此，8i Max把现有芯片组合到一起，并扩大与计算任务相配套的内存资源。公司称，同样大小的机架因此可以容纳更密集的运算设备。
两款新系统使谷歌第八代张量处理单元产品线达到四款：8t用于大规模模型训练，8i用于较低延迟的推理，8tx用于机密数据处理，8i Max则用于需要较大上下文窗口的工作。谷歌还表示，正在扩大对PyTorch及其他开发工具的支持，希望让客户更容易使用相关硬件。有关延迟、计算能力和内存的性能数据均由谷歌提供，目前没有得到独立验证，因此客户仍需根据实际任务评估效果。谷歌解释说，8t与8i构成这一代产品的基础，新的两种配置是在此基础上满足特定需求。公司还说，开发者工具和开放软件支持有助于减少把人工智能工作转移到TPU时面临的技术障碍。不过，公告中的性能比较取决于具体基准和工作任务，用户仍需要测试自身模型以及软件流程。
谷歌在此次公告中没有公布面向所有客户的正式供货日期，也没有给出价格。随着公司继续发展云服务和数据中心产品，潜在客户需要判断这些安全、内存与软件功能是否适合自己的工作负载。路透社报道，谷歌云在最近一个财季的收入增加逾一倍，达到307.1亿美元。这个数据表明，人工智能基础设施业务对谷歌具有明显的商业分量，而新系统能否扩大客户使用范围仍有待观察。此次公告确认了产品方向，却没有说明所有地区何时可以订购，也没有披露客户实际支付的费用。对计划购买计算能力的企业而言，可用时间、价格和实际表现仍是重要的采购条件。谷歌云收入的增长提供了业务背景，但不能单独证明新发布系统未来会获得多少订单。公司后续披露将有助于判断市场反应。
评论