快科技11月9日消息,长期以来,NVIDIA凭借其强大的CUDA生态系统,在AI领域占据主导地位,而竞争对手如AMD的ROCm等相对不够成熟,不过这一格局正迎来新的破局者微软。
据一位"高级别"微软员工透露,其已开发出"工具包",能够将NVIDIA CUDA模型转换或转译为ROCm兼容代码,使其能在AMD的GPU上运行。
此举旨在打破CUDA的"生态锁定",为微软日益增长的AI推理工作负载寻找更具成本效益的替代方案。
微软此番行动的核心驱动力在于,他们观察到AI推理工作负载的需求正在大幅增加,与昂贵的NVIDIA GPU相比,AMD的AI芯片在推理场景中具备更佳的性价比。
通过软件转换,微软可以利用AMD的硬件优势来降低运营成本。
据推测,该工具包可能采用类似ZLUDA的运行时兼容层技术,在不修改源代码的情况下,将CUDA API调用实时翻译成ROCm指令。
不过由于ROCm相对"不成熟",部分CUDA代码仍缺乏对应的映射,可能导致性能下降,这在大型数据中心环境中仍是一个挑战。
![]()
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.