来源:市场资讯
(来源:经济观察报)
![]()
经济观察报 记者 任晓宁
10月22日,在接受包括经济观察报在内的媒体采访时,科大讯飞创始人刘庆峰提到,国产算力训练大模型仍然面临很大的挑战和压力,当下国产算力跟英伟达相比有近两代代差。
目前,国内主流大模型厂商更多将国产芯片用于推理环节,较少用在训练环节。刘庆峰提到,当芯片能力差距较大时,使用国产芯片训练大模型会存在效率较低的问题。尤其是今年,大模型主打长上下文和复杂Agent能力,使用国产芯片训练,会存在“装不下,训不动”的问题。
他以算法验证环节为例,如果用较前沿的GPU,一个月就能验证完。如果用国产芯片,3个月能验证60%,半年能验证80%。
但通过优化,国产算力仍有挖潜空间。刘庆峰认为,全栈自主可控对于国产大模型有非常重要的意义。他对全栈自主可控的定义是,从底层硬件到模型的算法,再到数据、场景,以及软硬一体化的落地,都要具备自主能力。其中最重要的是,算力要用国产芯片,不仅使用国产芯片做推理,还要使用国产芯片做训练。
“国外芯片的算力的确比我们多,生态也更好。但如果大家都不在国产算力上做训练,我们自主可控这一步永远跨不出去。”他认为,只有在国产芯片上训练出大模型,才是真正的自主可控,才能实现模型协同共同发展,让国产模型真正摆脱“卡脖子”的风险。
因此,刘庆峰希望越来越多的大模型厂商使用国产芯片训练,一起形成国内自主可控的大模型生态。
刘庆峰说,对于目前国产算力与国外的差距,他并不担心,“做科技创新,没有竞争精神和好胜心是不行的。”他认为,虽然现在国产算力对标全球最优水平还有差距,但未来一定会有并跑甚至领跑的一天。
(作者 任晓宁)
免责声明:本文观点仅代表作者本人,供参考、交流,不构成任何建议。
![]()
任晓宁
TMT新闻部资深记者 关注并报道TMT(科技、传媒、通信)领域重大事件,擅长行业分析、深度报道。 联系邮箱:renxiaoning@eeo.com.cn 微信号:tangtangxiaomo
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.