网易首页 > 网易号 > 正文 申请入驻

对话Arm高级副总裁:AI大模型带来“计算”新挑战

0
分享至

本文系网易新闻•网易号特色内容激励计划签约账号【智东西】原创内容,未经账号授权,禁止随意转载。



作者 | 云鹏
编辑 | 李水青

智东西11月29日报道,今天Arm在北京举办了年度技术大会,会后智东西与少数业内媒体一起与Arm高级副总裁兼基础设施事业部总经理Mohamed Awad等高管进行了面对面深度交流。

Awad在沟通会上首先对上午演讲中的重点信息进行了总结,他的一个观点令人印象深刻,在AI新时代,Arm要做的并不是打造一个“完美的架构”,而是为更多企业的创新提供一个更好的“平台”,厂商们基于Arm架构可以设计出更多出色的芯片产品,例如英伟达的GH200 Grace Hopper。



AI大模型是当下科技产业讨论中避不开的一个话题,Awad说,AI技术发展太快了,我们每次讨论的内容都可能不一样,在他看来,AI领域最大的挑战之一就是内存带宽,解决这样的挑战需要新的系统架构,提高内存一致性。系统架构的灵活性、强大的生态系统至关重要,这些都是满足AI大模型发展需求的关键。

目前,从最小的设备到最大的数据中心,AI将会无处不在,每个涉及计算的领域都需要更多算力、更多加速能力。对于Arm而言,这是巨大的机会。

最近智能手机、PC等产品都在向生成式AI靠拢,比如提出AI PC的概念,Arm作为底层芯片技术提供商,对此是如何思考和布局的?AI大模型会给移动芯片生态带来哪些变化?

对于智东西提出的这些问题,Awad给出了自己的看法,他提到,AI大模型的训练更多会发生在云端,而推理过程则会发生在各个节点,从端侧设备到云端。

从提升计算性能的角度来看,实现软硬件的紧密耦合是必须的,包括CPU、NPU、GPU,整个计算系统。系统中的各个器件都不是孤立的。

五年以前,在基础设施建设方面,厂商会购买预配置好的芯片,购置服务器,但如今云计算巨头都在自研芯片。

云巨头自研的目的并不只是为了降低成本,其最主要的目的是把每一颗芯片的性能、效能做到极致,根据自己的工作负载、围绕自己的数据中心进行个性化定制。正因为有这样的优化,他们才越来越不惧怕日益增长的数据处理需求,从而为“GPTs”时代做好准备。

在基础设施建设领域,Arm Neoverse计算子系统(CSS)的核心优势是可以提供“预集成”,比如配置64核芯片和互联模块的产品,亚马逊AWS对芯片物理层的配置做了一些改变,这些意味着需要做很多工作,例如I/O接口加速,而Arm的CSS已经将这些基础工作做完了。



对于Arm的合作伙伴来说,厂商有很多选择,比如选择开箱即用的方案,或者使用芯粒、离散IP等方案。

在沟通后的参观环节,我们看到基于Arm的云实例相比基于x86的云实例在性能和成本上都有比较明显的优势,在芯片EDA设计、视频编解码等应用场景中优势比较明显。



结语:构建AI时代的“基础设施”,生成式AI加速Arm生态成长

在交流中,我们能看到Arm对于自身在AI新时代的机遇和挑战都有比较清晰的认识,同时Arm给自己在产业中的定位似乎更倾向于底层平台提供方,类似AI时代的“基础设施”建设者,基于自身硬件、软件、生态层面的优势技术,赋能芯片厂商。

面向未来的AI大模型时代,例如高通、联发科等移动芯片厂商,微软、亚马逊等云巨头都在芯片领域有更多新的布局,生成式AI在移动芯片、服务器芯片市场也掀起了新的技术革新浪潮,Arm生态无疑会继续加速成长。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
急!提前加油!油价要马上要涨了!丨今日油价

急!提前加油!油价要马上要涨了!丨今日油价

今日油价查询
2024-02-28 08:44:04
关键时刻来了!波音宣布重要消息,C919这次稳了

关键时刻来了!波音宣布重要消息,C919这次稳了

科技小张
2024-02-27 18:53:04
朱芳雨:中国队应归化有爆炸得分能力的球员,像克拉克森那种

朱芳雨:中国队应归化有爆炸得分能力的球员,像克拉克森那种

懂球帝
2024-02-27 18:43:16
A股:不必再猜了,今天(2月28日)周三没有悬念,市场将这么走!

A股:不必再猜了,今天(2月28日)周三没有悬念,市场将这么走!

彩云的夕阳
2024-02-28 06:20:03
为什么要珍惜改革开放?看一看六、七十年代的生活状况就知道了!

为什么要珍惜改革开放?看一看六、七十年代的生活状况就知道了!

汪汪观世讲解
2023-10-19 18:09:22
很多人说现在退休人员养老金,普遍都在八九千甚至过万,真的吗?

很多人说现在退休人员养老金,普遍都在八九千甚至过万,真的吗?

社保小达人
2024-02-23 10:04:39
突传噩耗!资深演员康祺去世,死因与肺疾有关,插管治疗画面曝光

突传噩耗!资深演员康祺去世,死因与肺疾有关,插管治疗画面曝光

我娱乐有约
2024-02-28 13:13:06
最年轻的中央候补委员,未来前途无限,却提前结束仕途

最年轻的中央候补委员,未来前途无限,却提前结束仕途

能源之芯
2024-01-25 00:37:10
从春晚沦落至精神病院,“小品女王”金玉婷,走到这一步实在可惜

从春晚沦落至精神病院,“小品女王”金玉婷,走到这一步实在可惜

慕容梓宜
2024-02-26 23:37:48
农村墙上的“标语”又火了,真是寒了5.6亿农民的心?

农村墙上的“标语”又火了,真是寒了5.6亿农民的心?

如烟财道
2024-01-21 18:36:43
变态混混每天性侵母亲,她竟主动配合,母亲:就是让孩子体验体验

变态混混每天性侵母亲,她竟主动配合,母亲:就是让孩子体验体验

爱笑贝尔故事
2024-01-11 11:34:03
毁三观!高校女生出轨“多名男生”男友直接曝光大尺度聊天记录

毁三观!高校女生出轨“多名男生”男友直接曝光大尺度聊天记录

庚琪扯文
2024-01-21 11:41:04
当旺仔种上多肉后,你永远不知道有多整齐,我笑死在网友的评论区

当旺仔种上多肉后,你永远不知道有多整齐,我笑死在网友的评论区

平祥生活日志
2024-02-27 18:43:12
完美逆袭夺冠!中国12岁花滑天才少女诞生:美如精灵完胜朱易

完美逆袭夺冠!中国12岁花滑天才少女诞生:美如精灵完胜朱易

李喜林篮球绝杀
2024-02-27 12:23:26
网红李佳琦又翻车!直播时把香港和中国割裂,这次恐凉凉了

网红李佳琦又翻车!直播时把香港和中国割裂,这次恐凉凉了

娱乐圈酸柠檬
2024-02-28 07:50:15
活久见!男子坐卧铺鞋子被偷,无奈光脚出站,旁边乘客表情亮了

活久见!男子坐卧铺鞋子被偷,无奈光脚出站,旁边乘客表情亮了

看晓天下事
2024-02-27 18:06:45
女子酒后丢失手机,被别人捡到威胁半年之久,坦言照片决不能泄露

女子酒后丢失手机,被别人捡到威胁半年之久,坦言照片决不能泄露

王小全鉴文
2024-01-11 14:47:49
美国网友:中国怎么好意思说爱好和平?他们成立后都打8次战争了

美国网友:中国怎么好意思说爱好和平?他们成立后都打8次战争了

boss外传
2024-02-26 17:05:03
女毒枭狱中怀孕内幕:花5000万买通狱警,勾引死刑犯,她怎做到的

女毒枭狱中怀孕内幕:花5000万买通狱警,勾引死刑犯,她怎做到的

写真实故事的张三哥
2024-02-14 07:51:09
这是刘亦菲啊,刘亦菲的生活我的梦,没事就在迪拜度假

这是刘亦菲啊,刘亦菲的生活我的梦,没事就在迪拜度假

娱乐圈酸柠檬
2024-02-27 17:08:26
2024-02-28 15:30:44
智东西
智东西
聚焦智能变革,服务产业升级。
8285文章数 116298关注度
往期回顾 全部

科技要闻

苹果造车十年终烂尾,卷不过国产新能源

头条要闻

苹果放弃造车 马斯克、雷军、李想纷纷发声

头条要闻

苹果放弃造车 马斯克、雷军、李想纷纷发声

体育要闻

惊世一战!哈兰德炸裂五子登科刷爆纪录

娱乐要闻

李亚鹏直播哭穷,他的卖惨何时停?

财经要闻

江苏安凯特"闯关"IPO:募投项目数据打架

汽车要闻

售26.9万起 全新极氪001上市加量不加价

态度原创

本地
艺术
房产
数码
公开课

本地新闻

望周知,新加坡是免签了,不是免费了

艺术要闻

一座城市的美,有多少是被设计出来的?

房产要闻

豪横!又是华润!又是富德!24.48亿,联合拿下海棠湾超级宅地!

数码要闻

2023全球电视出货量排名:中韩包揽前五!

公开课

何为人生第一等事?

无障碍浏览 进入关怀版