亚马逊于10月19日宣布推出名为TorchNeuron的软件工具，其目标是让开发人员把已经使用PyTorch编写完成的人工智能代码，直接用于该公司旗下的AWS Trainium芯片，按照公司的说明，开发人员进行这种转换时，只需要在程序所用的配置中调整一项设置。按照亚马逊的介绍，开发团队在转向其硬件时，可以保留现有代码，不必仅仅因为更换底层运行芯片，就把原本已经编写完成的人工智能程序再重新写一遍。这种方式旨在降低采用亚马逊硬件时面临的一项实际障碍。
此次公告针对英伟达在人工智能计算领域的一项关键优势。英伟达提供的CUDA软件可以帮助人工智能开发人员使用其处理器，而不仅仅是获得硬件本身。据路透社报道，英伟达为开发这套软件生态系统已经投入了十多年的时间。同样自行设计人工智能芯片的谷歌，也在努力改善面向PyTorch开发人员的工具，希望以此吸引他们采用自己的处理器。
据亚马逊介绍，TorchNeuron利用的是PyTorch框架为注册新硬件提供的标准机制。该公司表示，通过这一连接方式，开发人员已经熟悉的程序测试、错误排查以及扩大计算规模的工具，都能在Trainium上继续工作，不需要再为这些工具作出修改。在亚马逊开展的一次演示中，工程师把同一个人工智能训练脚本分别放在传统芯片和Trainium芯片上运行，所作调整只是更改用于指定计算设备的设置。
亚马逊芯片部门Annapurna Labs的软件主管科林·布雷斯向路透社表示，已有超过三十家早期客户正在使用这款软件。这些客户涉及机器人、世界模型以及语音人工智能等不同领域。他解释说，公司希望减少开发人员尝试亚马逊自研处理器时必须完成的步骤，并表示更换到亚马逊芯片可能带来可观的成本节约。不过，这些潜在节约是企业方面提出的说法，并不等于对所有使用情况作出统一的性能保证。
亚马逊表示，它还在向PyTorch项目贡献软件修改，以减少这一框架与某些特定芯片之间的依赖关系。据该公司介绍，Hugging Face已经在自己的开发工具中加入对Trainium的原生支持，开发人员可以通过这些工具使用相关硬件。此外，TorchNeuron还与TorchTitan集成，为开发团队提供一种标准途径，把人工智能模型的训练任务分配到多个Trainium计算实例上执行。
按照亚马逊公布的安排，TorchNeuron计划于10月20日在北美PyTorch大会上正式开放源代码，采用的开源许可证为Apache 2.0。该公司表示，这款软件能够支持Trainium2和Trainium3两代芯片。随着计划中的发布，更多开发人员将能获得并使用这款工具，结合各自实际承担的人工智能计算任务，评估亚马逊提供的硬件是否适合他们自己的工作负载。
评论