亚马逊工程师把同一份AI训练脚本,分别放在传统芯片和自研Trainium芯片上跑了一遍。两份代码唯一的区别,是里面指定所用芯片的那个设置参数。结果显示,模型在两种环境下学到的东西完全一致,学习速度也相同。
![]()
支撑这件事的工具叫TorchNeuron。当地时间10月19日,亚马逊宣布推出这个开源工具,开发人员写的PyTorch代码可以在Trainium芯片上本地运行,只需更改一次配置,无需重写。按计划,它于当地时间10月20日在加州圣何塞举行的北美PyTorch大会上以开源许可形式正式发布。
要理解这一步的分量,得先看PyTorch和CUDA的关系。PyTorch由Meta主导,是大多数人工智能开发者采用的框架;英伟达则投入了十多年研发CUDA工具,让PyTorch代码能在自家芯片上高效运行。框架与芯片之间的这层绑定,长期是后来者绕不过去的门槛。
亚马逊给出的说法是,TorchNeuron为行业带来了一项长期缺失的关键要素:真正可行的选择权。逻辑很直接——当开发者能在不同芯片之间自由切换而不付出额外代价,芯片厂商就必须靠更有竞争力的产品来争取开发者;开发者这边,则能拿到成本降低和迭代速度提升。
更值得留意的是亚马逊在PyTorch上游的动作。它正与PyTorch社区合作,移除那些把框架与特定芯片相绑定的代码,目标是让PyTorch对整个开发者社区更具“硬件无关性”,而不只是服务Trainium用户。
对写过训练脚本的人来说,这件事的体感很具体:原本用于测试、调试和扩展AI模型的工具,不需要任何修改,就能直接在Trainium上使用。换芯片这件事,从重写代码降级成了改一个参数。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.