
经常搞AI的朋友肯定都在想,现在AI芯片的算力越来越强,是不是只要堆算力,AI性能就能一直往上冲?
最近图灵奖得主约翰·轩尼诗出来说话了,他说GPU设计的瓶颈不是算力,数据传输的成本比计算高100倍。这说法一出来,好多人都开始琢磨,原来AI芯片的问题,不只是算力不够啊。
![]()
咱们先聊聊数据传输。新一代AI芯片,最大的麻烦就是数据传输太费钱了。打个比方,芯片从外面的主内存读数据,这个过程的能耗,比做一次浮点乘法运算高100多倍。这就像你要算道数学题,结果找纸和笔的功夫,比做题本身还费时间精力。所以现在大家都想着尽量少传输数据,能用计算代替就代替。像TPU和GPU,都是这么干的,多做运算,少传数据。
但这么做也有到头的时候。要是想搞更高的并行规模,效率反而会下降,最后成了性能的瓶颈。这就让人想起当年CPU的情况,CPU性能后来不怎么涨了,就是因为能优化的地方都优化完了。现在AI芯片好像也到了这个关口。
就在大家为这事头疼的时候,华为昇腾384超节点用的光模块,在数据传输上的优势就很突出了。
传统的数据传输方式,在大规模传数据的时候,信号容易衰减,速度也上不去,就像城里的老路,车多了就堵。而华为用的光模块,就像给数据修了条高速路。
光模块用的是光信号传数据,比传统的电信号传,损耗要小很多。长距离传数据的时候,光模块能减少信号衰减,保证数据能准确传到。比如在很大的AI训练集群里,各个计算节点要频繁交换大量数据,用光模块就不容易出错,不用老重传数据,数据传输的可靠性就高多了。
而且光模块传数据的速度特别快。像智能安防要实时识别图像,自动驾驶要处理海量数据,这些场景都需要数据快点传。华为昇腾的光模块能满足这些需求,让AI芯片能及时拿到数据,把算力都用起来,不会因为等数据把算力浪费了。
另外,光模块抗干扰能力也强。机房里电磁干扰多,传统电信号传数据容易受影响,数据就不准了。光信号传数据基本不受电磁干扰,就像在吵杂的地方,也能清楚说话,能保证数据传输稳定,让AI芯片能一直高效干活。
华为轮值董事长徐直军说,未来几年华为昇腾的算力能保持世界第一。从光模块在数据传输上的优势来看,这话是有道理的。因为光通信是华为的老本行,别人想要掺一脚进来门槛也不低啊,这就给昇腾的算力领先打下了基础。
网友们对这事也有不少看法。有网友说:“华为这光模块确实厉害,数据传输快又稳,保证堆砌算力芯片让算力能保持第一,昇腾说不定能带着AI芯片行业往前冲。”
还有网友说:“科技发展就是这样,一个问题解决了,又会有新问题。不过华为在这方面的尝试,能给大家指条路。”
也有做相关工作的网友说:“我们搞芯片的,得好好看看华为的做法,光模块在数据传输上的创新,可能就是下一个突破点。”
其实这也符合科技发展的规律,每一项技术发展到一定程度,都会遇到自己的限制。对我们搞科技的来说,这既是挑战,也是机会。
硅谷分析师谈黄仁勋害怕华为原因:当年干翻苹果后,华为这3方面都比英伟达强!网友:殖人看不起华为,美帝却怕得很
联想、紫光竞标中国海油大规模采购电脑被评审不合格!网友:释放出明显信号
谷歌前CEO:中国机器人在复制电动车策略,未来全世界全是中国机器人!
美前驻华大使“警告”:我亲眼见过解放军,我们低估了中国的军事和技术实力!网友:美政客一卸任就不演了
比尔盖茨道出实情:别再迷信辍学逆袭,我当时随时能回哈佛读书!网友:不早说!!!
马院士霸气发声:我们的电磁弹射技术,比美国福特级领先一代!曾声称搞研究不为做官,就为领先美国!
雷军:只有对标iPhone才能超越,不过对标挺没意思的,小米屏幕更好,游戏体验更好,相机更好,信号遥遥领先!
华为轮值董事长:坚决不兼容英伟达CUDA!网友:以开源挑战闭源,超节点+集群扬长避短!
印空军司令:印度叫停了印巴冲突,参考俄乌巴以继续没好处,给世界上了一课!网友:又准备放假庆祝了哇
军事大V:歼10-C发射完导弹扭头回家了,阵风雷达还没发现,这差距怎么打!歼10-C打F35也妥妥的!
沙特和巴铁签战略共防协议后,卡塔尔、阿联酋也来了!网友:巴铁赢麻了,收保护费就赚盆满钵满!
黄仁勋对中国表示“失望”,因疑似政府要求中国企业停止采购英伟达显卡!网友:不要特供阉割歧视版
马斯克畅想:如果我们走出地球,可能会发现大批灭绝的文明!网友:先把地球上的烂摊子收拾好
美媒谈对中国反垄断调查:英伟达违反承诺,现在处于两难境地!网友:奥利奥夹心
德媒感慨:中国车我们估计赶不上了,现在咋办?网友:学习中国,注入灵魂
百度资深副总透露:李彦宏在百度没写过一行代码!李彦宏:我是刻意控制不写的!网友:可惜了
华为霸气!在欧洲法庭完胜WiFi 6专利战!美科技巨头需赔偿10亿欧元!网友:尊湃事件太恶劣,损失不止这些
英媒报道:全球停电风险攀升,中国电力设备成为破局关键
NASA局长:禁止中国公民参与其太空项目,中国想抢在美国前面重返月球那是不可能!
微软总裁警告:在公司内部参与加沙相关抗议活动的员工,将被辞退!网友:说好的言论自由呢?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.