网易首页 > 网易号 > 正文 申请入驻

【人工智能】混合记忆可以缓解 AI 的能源问题吗?

0
分享至

台积电前研发主管希望设计师能够结合不同的内存技术

内存的未来将是庞大的、多样化的,并且与处理紧密结合。这是本周在旧金山举行的国际电子设备会议上受邀演讲的主题。斯坦福大学电气工程师、前台积电研究副总裁、目前仍担任该公司科学顾问的H.-S. Philip Wong告诉在场的工程师们,现在是时候以新的方式思考内存和计算架构了。

当今计算问题(尤其是人工智能)的需求正在迅速超出现有内存系统和架构的能力。当今的软件假设可以随机访问任何给定的内存位。将所有数据从内存移到处理器需要花费时间和大量能源。而且并非所有数据都是平等的。有些数据需要频繁访问,有些则不需要频繁访问。Wong 认为,这个“内存墙”问题需要认真考虑。

不幸的是,Wong 表示,工程师们仍在关注哪种新兴技术将取代当今的传统内存(包括 SRAM、DRAM 和闪存)的问题。这些技术及其潜在的替代技术各有优缺点。有些技术提供更快的数据读取速度,有些技术提供更快的写入速度。有些技术更耐用,有些技术对功耗的要求更低。Wong 认为,寻找一种新的内存技术来统领所有技术是错误的做法。

黄说道:“你不可能找到完美的记忆。”

相反,工程师应该考虑系统需求,然后选择最适合的组件组合。Wong 主张从特定类型的软件用例的需求开始。他说,选择正确的内存技术组合是“一个多维优化问题”。

一个内存无法满足所有需求

试图让一种内存在所有方面都做到最好——快速读取、快速写入、可靠性、保留时间、密度、能源效率等等——会让工程师“毫无理由地过度劳作”,他说,并展示了一张幻灯片,其中有一张电气工程师扮演西西弗斯推着齿轮上山的图片。“我们孤立地看待数字,而不知道这项技术将用于什么用途。这些数字可能根本不重要,”他说。

例如,在设计需要频繁、可预测地读取内存和偶尔写入的系统时,MRAM、PCM 和 RRAM 都是不错的选择。对于需要传输大量数据的系统,系统需要频繁写入、少量读取,并且仅需要较短的数据生命周期。因此,工程师可以在保留时间与速度、密度和能耗之间进行权衡,并选择增益单元或 FeRAM。

随着有关启动核电站为人工智能数据中心提供能源的讨论很明显该行业已经意识到了其能源问题。

这种灵活性可以带来巨大的好处。例如,Wong 指出了他在混合增益单元方面的工作,这种单元类似于 DRAM,但每个存储单元使用两个晶体管,而不是一个晶体管和一个电容器。一个晶体管是硅,可提供快速读出;另一个晶体管存储数据而无需刷新,并且基于氧化物半导体。当这些混合增益单元与 RRAM 结合用于 AI/机器学习训练和推理时,与传统存储系统相比,它们可提供 9 倍的能源使用效益。

而且至关重要的是,Wong 说,这些不同的存储器需要与计算更紧密地集成。他主张将多个芯片集成在一起,每个芯片都有自己的本地存储器,在一个“幻觉系统”中将每个芯片视为一个更大系统的一部分。在10 月发表的一篇论文中,Wong 和他的合作者提出了一种计算系统,该系统以硅 CMOS 芯片为基础,分层铺设由 STT-MRAM 组成的快速访问密集存储器、用于非易失性存储器的金属氧化物 RRAM 层以及高速、高密度增益单元层。他们称之为 MOSAIC(单片、堆叠和组装 IC)。为了节省能源,数据可以存储在需要处理的地方附近,并且堆栈中的芯片可以在不需要时关闭。

在提问环节,一位在场的工程师表示他很喜欢这个想法,但他指出,所有这些不同的部件都是由不同的公司制造的,它们之间没有合作。Wong 回答说,这就是为什么像 IEDM 这样将大家聚集在一起的会议很重要。随着人们讨论启动核电站为 AI 数据中心提供燃料,很明显该行业已经意识到了其能源问题。“需要是发明之母,”他补充道。

免责声明:

本文所发布的内容和图片旨在传播行业信息,版权归原作者所有,非商业用途。如有侵权,请与我们联系。所有信息仅供参考和分享,不构成任何投资建议。加密货币市场具有高度风险,投资者应基于自身判断和谨慎评估做出决策。投资有风险,入市需谨慎。

注我们,一起探索AWM

2024-12-03

领域,智能体能发挥出什么作用?

2024-12-15

2024-12-14

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
沙特找中国,要签1.1万亿美元大单!中国基建将再度打造沙漠奇迹

沙特找中国,要签1.1万亿美元大单!中国基建将再度打造沙漠奇迹

有范又有料
2026-06-27 12:55:26
2007年薄一波去世后,子女公开发布声明,澄清了他身上的两大谣言

2007年薄一波去世后,子女公开发布声明,澄清了他身上的两大谣言

云霄纪史观
2026-06-29 02:02:40
别同情李咏了!哈文戳破他葬在美国的原因,不是不爱国,是回不来

别同情李咏了!哈文戳破他葬在美国的原因,不是不爱国,是回不来

动物奇奇怪怪
2026-06-29 19:54:17
北京楼市:二手房同比上升5.65%

北京楼市:二手房同比上升5.65%

老覃讲历史
2026-06-29 18:51:40
足球队回国在即,韩国极端网友对主帅洪明甫发出死亡威胁,警方密切监控仁川机场等地

足球队回国在即,韩国极端网友对主帅洪明甫发出死亡威胁,警方密切监控仁川机场等地

红星新闻
2026-06-29 10:56:48
警告普京有兵变的俄军卢宁被捕!想做普里戈金第二?

警告普京有兵变的俄军卢宁被捕!想做普里戈金第二?

项鹏飞
2026-06-28 21:41:22
海巡署台中舰冲撞大陆海警船!

海巡署台中舰冲撞大陆海警船!

烽火观天下
2026-06-29 11:28:13
“带父母旅游,落地第一天妈妈晒脱水进医院”热浪席卷欧洲,旅行变生存挑战

“带父母旅游,落地第一天妈妈晒脱水进医院”热浪席卷欧洲,旅行变生存挑战

上观新闻
2026-06-28 09:36:33
西工大立大功!全世界都没想到,中国技术居然再次“弯道超车”

西工大立大功!全世界都没想到,中国技术居然再次“弯道超车”

粤语音乐喷泉
2026-06-27 14:55:28
恭喜!河南女孩699分,清北争相上门,原来她和扁担女孩是一类人

恭喜!河南女孩699分,清北争相上门,原来她和扁担女孩是一类人

丁丁鲤史纪
2026-06-29 17:24:01
命中!伊朗玩命了!

命中!伊朗玩命了!

财经要参
2026-06-28 13:01:08
我遇见重病前妻,拿60万手术费救她,没想到1个月后她儿子找上门

我遇见重病前妻,拿60万手术费救她,没想到1个月后她儿子找上门

浮生实录集
2026-05-12 11:03:24
天才落幕!从世界杯金靴,到足坛流浪球员,J罗一直被被时代错过

天才落幕!从世界杯金靴,到足坛流浪球员,J罗一直被被时代错过

秋姐居
2026-06-29 19:39:09
苏提达出访巴黎为何故意素颜?机舱内公主的一跪暴露了真实内幕

苏提达出访巴黎为何故意素颜?机舱内公主的一跪暴露了真实内幕

白露文娱志
2026-06-29 16:05:34
张志超任南京市玄武区委书记

张志超任南京市玄武区委书记

黄河新闻网吕梁
2026-06-29 18:25:19
内分泌科主任:糖尿病最危险信号,不是口渴,是频繁出现5异常

内分泌科主任:糖尿病最危险信号,不是口渴,是频繁出现5异常

观星赏月
2026-06-29 18:11:18
身中30多刀!34岁被害人带人看房,惨死出租屋内,现场遍布血迹!20年后凶手线索浮现

身中30多刀!34岁被害人带人看房,惨死出租屋内,现场遍布血迹!20年后凶手线索浮现

南方都市报
2026-06-28 15:08:45
复旦大学教授:基因检测证实,成吉思汗很可能是汉高祖刘邦的后代

复旦大学教授:基因检测证实,成吉思汗很可能是汉高祖刘邦的后代

青史卷中人
2026-06-28 00:40:24
严子怡再现一枪定胜负追平刘翔一纪录 她的18岁!才过38天就夺三冠

严子怡再现一枪定胜负追平刘翔一纪录 她的18岁!才过38天就夺三冠

劲爆体坛
2026-06-29 06:43:06
向太陈岚放狠话:再也不投了,冯小刚加胡歌雷佳音都赔惨

向太陈岚放狠话:再也不投了,冯小刚加胡歌雷佳音都赔惨

可乐谈情感
2026-06-29 17:59:03
2026-06-29 20:32:49
七元宇宙 incentive-icons
七元宇宙
AI、Web3、Meta聚合型精选内容分享。以前沿视角,探索科技未来;让每一个人,都走在时代的前沿
2077文章数 92关注度
往期回顾 全部

科技要闻

杀疯了!深圳一天出两家200亿具身智能公司

头条要闻

媒体:中国再对日本出重拳 一红一黄两张牌同时打出

头条要闻

媒体:中国再对日本出重拳 一红一黄两张牌同时打出

体育要闻

他和伊朗队,再次赢得全世界的尊重

娱乐要闻

跟风电影《给阿公的牛肉丸》开机

财经要闻

近20家半导体企业开启新一轮涨价潮

汽车要闻

全新宝马iX3长轴版将于成都车展预售 四季度交付

态度原创

手机
游戏
本地
旅游
军事航空

手机要闻

屏幕反人类,但AI绝了!酷派小方块上手:没法当主力机用

R星取消《GTA6》实体版!三大原因带你看清背后真相

本地新闻

贵州小城的新目标:举办“村超”世界杯!

旅游要闻

告别盛夏燥热!云中河温泉旅游度假区,承包您一整个夏天的清凉

军事要闻

普京最新发声:俄罗斯正处于命运攸关之际

无障碍浏览 进入关怀版