微软于10月12日发布Maia 300人工智能芯片,并计划在2027年开始将其部署到生产业务中。公司表示,Maia芯片家族的部署将扩大至数吉瓦规模,并成为支撑微软旗下各种产品与服务、负责执行人工智能推理工作的主要系统。据雅虎财经报道,这款新芯片是在美国圣何塞举行的OCP全球峰会上正式亮相的,相关实际投入生产环境并服务业务的部署工作,仍属于微软公布的下一年度计划。
此次公告延续了微软自行设计芯片的持续性项目,该项目的上一代产品如今已经承担真实业务中的计算工作。微软表示,Maia 200目前正在支持微软Copilot以及公司旗下的MAI模型团队。在这些工作负载中,该芯片运行的模型既包括OpenAI和微软自身的模型,也包括开放源代码模型家族。按照公司的时间表,GitHub Copilot和Microsoft Foundry预计将在今年年底之前陆续加入这一部署范围,也就是进一步采用这套芯片系统来支持相应的产品与服务。
微软预计,Maia 300每兆瓦能够生成的词元数量将比领先的图形处理器系统多出40%。公司还表示,在配备96个加速器的完整配置下,单个机架的词元吞吐量最高可达到Maia 200机架的七倍。这些数字属于微软公布的性能主张,而不是来自外部独立测试、并在本次公告中公开展示的验证结果;两项比较分别涉及每兆瓦电力所对应的词元生成量,以及整套机架系统所能够达到的词元处理吞吐能力。
根据Azure发布的技术文章,新设计通过多个小芯片分别承担计算、内存控制以及输入输出功能,其中计算部件采用台积电的N2P制造工艺。每个加速器配备八组HBM4内存堆栈,提供288吉字节容量以及每秒18太字节的内存带宽。机架则在167千瓦的功率范围内整合96个加速器,这些技术参数描述的是微软为新一代系统公布的硬件配置,包括内存、机架加速器数量和电力方面的设计。
按照微软对于预期用途的说明,这一芯片系统的设计面向需要处理较长上下文信息的人工智能推理任务、需要快速响应的对话,以及连续执行多个步骤的人工智能代理。微软表示,通过协调软件、内存、网络和冷却系统,可以在数据中心既有的供电限制下完成更多有用工作,提升基础设施使用效率。雅虎财经将此次发布描述为微软降低对英伟达和AMD处理器依赖的一部分,重点在于扩大自行设计芯片在微软人工智能基础设施中的作用。
Maia 300投入生产业务的时间目前仍定在明年。微软表示,下个月将在旧金山以及线上举行的Ignite活动上进一步向外界介绍公司在人工智能领域的战略和相关部署方向。公司公布的目标是扩大人工智能的可及性,同时提高用于支持这些人工智能服务的相关基础设施的运行效率,并使其成本更加可负担;这也是其所述后续部署方向。
评论