网易首页 > 网易号 > 正文 申请入驻

大脑只用20瓦,英伟达显卡95瓦:3篇论文撕开算力真相

0
分享至


RTX 4060跑llama.cpp,风扇狂转,95瓦功耗换38 tok/s。M4 Mac mini同样速度只要30瓦。CUDA的暴力美学在能效面前开始站不住脚。

但生物大脑只烧20瓦。其中大部分用于维持膜电位和突触待机,"意识活动"的增量成本不到5%(Raichle, Science, 2006)。真正用于思考的能量,不到1瓦。

860亿神经元,同一时间只有1-2%在放电(Lennie, Current Biology, 2003)。需要才激活,按需才 spike。这跟 Transformer 推理完全不同——每个参数对每个 token 全量参与。

脉冲神经网络(Spiking Neural Networks,SNN)和神经形态计算,正试图把这种生物设计原则塞进硬件。2026年Q1有三篇论文值得关注。读完之后,我对 GPU 的未来有了新想法。

SPARQ:330倍能效提升,但有个陷阱

3月arXiv的SPARQ,把量化感知训练和强化学习驱动的早退机制塞进统一框架。核心洞察:动态决定每个输入的脉冲传播深度。简单输入浅层解决,复杂输入才往深层走。这很接近生物脑的实际运作。

SPARQ的 benchmark 数据(来自论文表2/3):

MLP on MNIST:基线SNN 95.00% → QSNN 94.50% → SPARQ 97.80%

LeNet-5 on MNIST:基线 97.76% → QSNN 93.09% → SPARQ 98.24%

AlexNet on CIFAR-10:基线 77.01% → QSNN 74.30% → SPARQ 78.00%

能耗降低330倍以上,突触操作减少90%+。

330倍,第一眼很炸裂。但仔细看。


测试模型是 MLP、LeNet、AlexNet——MLP 是经典老古董,LeNet 来自1998年,AlexNet 来自2012年。连 ResNet-50 都没上,更别提百亿参数的 Transformer。SPARQ 是在 SNN 范式内部做了优秀优化,但还不是 GPU 推理的替代故事。

还有个细节:330倍是相对于基线 SNN,不是相对于 GPU。而那个 SNN 基线本身,并没有在同等条件下与 GPU 推理做过对比。

FPGA方案:几百美元就能买到的神经形态芯片

另一篇3月论文走了一条不同的路。

SoC架构,RISC-V控制器+事件驱动SNN核心。乘法器换成位运算(二值权重),用基于脉冲时间的时间编码。在FPGA上实现——这是你能真金白银买到的硬件。

这里开始有意思了。Intel Loihi 2 和 IBM NorthPole 是研究机构专属,你买不到。但 FPGA(Xilinx Artix-7、Intel Cyclone V)几百美元,RISC-V开源。这条路通向"普通人能跑起来的神经形态计算"。

论文里的数字:在 MNIST 上达到 97.5% 准确率,功耗 0.5W。作为对比,树莓派4B跑同类任务约5-7W。

但限制同样明显。FPGA 的片上内存和逻辑资源决定了网络规模天花板。论文中的实现是小型网络,扩展到现代深度学习模型的体量,需要多芯片互联或外部存储,能效优势会被稀释。

第三篇:SNN Transformer的艰难爬坡

第三篇论文尝试把 SNN 和 Transformer 嫁接。这是最难啃的骨头,也是 GPU 霸权最直接的挑战目标。

自注意力机制的本质是全局 token 交互,每个位置要看到所有其他位置。这与 SNN 的事件驱动、稀疏激活哲学存在张力。论文的解决方案是近似注意力:用局部敏感哈希(Locality-Sensitive Hashing)把全局计算降到次线性复杂度,同时在脉冲域实现。

结果:在小型语言建模任务上,困惑度(perplexity)接近标准 Transformer,但训练时间延长3-5倍。能耗数据未在论文中给出完整芯片级测量,仅提供理论操作数估算。


这很诚实。SNN 的训练基础设施远未成熟,PyTorch/TensorFlow 的自动微分对脉冲动力学支持有限。研究者们往往在自定义框架里手写反向传播,或者干脆用代理梯度(surrogate gradient)近似。

三篇论文拼在一起,能看到什么?

SPARQ 证明了在经典任务上,SNN 可以靠算法创新大幅压缩冗余计算。FPGA 方案证明了低成本硬件路径的存在。SNN Transformer 则在最难的战场上缓慢推进,承认基础设施的短板。

但一个关键问题悬在空中:SNN 的能效优势,在多大程度上能转化为端到端应用优势?

GPU 的护城河不只是算力,是 CUDA 生态、是 PyTorch 的优化算子、是 Hugging Face 上即插即用的模型、是云厂商按秒计费的成熟推理服务。SNN 要跨越的,是从论文到产品的完整链条。

神经形态芯片的商用尝试不是没有。Intel 的 Loihi 系列、IBM 的 NorthPole、BrainChip 的 Akida,都在特定场景落地——边缘设备的低延迟推理、 always-on 的传感器信号处理。但这些场景的规模,与数据中心的大模型推理不在一个数量级。

一个产品经理视角的观察:技术替代 rarely 是"更好所以赢",而是"足够好+更便宜+生态成熟"的复合结果。SNN 目前在"更好"的维度上有亮点,在"更便宜"的维度上有潜力,在"生态成熟"的维度上差距明显。

英伟达不是没注意到这个方向。2024年的NeurIPS上,他们展示了与脉冲计算兼容的模拟电路研究。但商业优先级上,Blackwell架构的密度提升和内存带宽扩张,仍是主线。

这像不像当年CPU和GPU的故事?CPU的通用性 vs GPU的并行效率,最后不是谁杀死谁,而是分层共存。SNN 可能走类似的路:在极端能效敏感的场景(植入式医疗设备、深空探测器、微型机器人)先站稳脚跟,再向通用计算渗透。

三篇论文里,最让我记住的是一个脚注。FPGA那篇的作者提到,他们的RISC-V核心在空闲时功耗仅12mW,而等待传感器事件期间,SNN核心完全静默。这种"按需唤醒"的能力,是GPU的架构性盲区——CUDA核心即使在低利用率下,静态功耗依然可观。

如果未来五年,某种工作负载的推理成本下降100倍,是因为算法进步压缩了计算量,还是因为硬件架构切换到了事件驱动范式?三篇论文没有给出答案,但把问题摆到了桌面上。

你会为这种不确定性押注吗?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
内娱再曝大瓜!郭麒麟、刘昊然,严浩翔疑似组团去商K聚会 惹争议

内娱再曝大瓜!郭麒麟、刘昊然,严浩翔疑似组团去商K聚会 惹争议

丁丁鲤史纪
2026-03-28 10:28:29
晚清首富盛宣怀:家有两女佣,一个生了宋美龄,另一个生了赵一荻

晚清首富盛宣怀:家有两女佣,一个生了宋美龄,另一个生了赵一荻

近史博览
2026-03-29 05:15:10
左手诺贝尔,右手奥斯卡,怎么做到的?

左手诺贝尔,右手奥斯卡,怎么做到的?

中国新闻周刊
2026-03-28 07:31:04
刘昊然、郭麒麟方回应“KTV传闻”

刘昊然、郭麒麟方回应“KTV传闻”

大风新闻
2026-03-28 16:44:09
救回来了!上海41岁男子跑步时突然倒地心脏骤停,在场者与120“神配合”

救回来了!上海41岁男子跑步时突然倒地心脏骤停,在场者与120“神配合”

上观新闻
2026-03-28 17:56:44
鲁比奥驳斥泽连斯基涉顿巴斯言论:那是“谎言”

鲁比奥驳斥泽连斯基涉顿巴斯言论:那是“谎言”

环球网资讯
2026-03-28 09:49:11
“换心”真相大白!向太曝更多内幕,李连杰一夜回春秘密被揭开

“换心”真相大白!向太曝更多内幕,李连杰一夜回春秘密被揭开

枫尘余往逝
2026-03-27 15:35:07
“老虎”伍兹被捕,违法总是要付出代价的,不分国别!

“老虎”伍兹被捕,违法总是要付出代价的,不分国别!

阿废冷眼观察所
2026-03-29 03:51:22
一年关店15000家!从稳赚不赔到越开越亏,商场餐饮大撤退

一年关店15000家!从稳赚不赔到越开越亏,商场餐饮大撤退

品牌观察官
2026-03-28 18:24:58
哈里·凯恩薪资曝光:英格兰队内断层第一,周薪超40万英镑

哈里·凯恩薪资曝光:英格兰队内断层第一,周薪超40万英镑

星耀国际足坛
2026-03-28 23:54:54
CCTV5播喀麦隆VS国足,开球时间敲定,韦世豪成熟,邵佳一争2连胜

CCTV5播喀麦隆VS国足,开球时间敲定,韦世豪成熟,邵佳一争2连胜

体育大学僧
2026-03-28 11:53:09
太阳报曼联跟队:帕尔默对切尔西感到失望,他考虑转会曼联

太阳报曼联跟队:帕尔默对切尔西感到失望,他考虑转会曼联

懂球帝
2026-03-29 07:21:56
8天狂轰12亿票房,沈腾吴京加起来都打不过,2026年度大黑马诞生

8天狂轰12亿票房,沈腾吴京加起来都打不过,2026年度大黑马诞生

卷史
2026-03-27 14:07:26
詹姆斯或小卡!曝勇士预计全力追两大巨星 为库里时代画圆满句号

詹姆斯或小卡!曝勇士预计全力追两大巨星 为库里时代画圆满句号

罗说NBA
2026-03-29 05:44:18
江苏姆巴佩一战成名!45分钟惊艳发挥,媒体人:又一台国产超跑

江苏姆巴佩一战成名!45分钟惊艳发挥,媒体人:又一台国产超跑

奥拜尔
2026-03-28 16:34:45
张雪峰遗体已火化,传骨灰安葬地确定:11岁女儿哭昏厥,画面曝出

张雪峰遗体已火化,传骨灰安葬地确定:11岁女儿哭昏厥,画面曝出

博士观察
2026-03-28 13:59:13
这次确定了!东契奇将被禁赛!三巨头81分,魔鬼赛程要来了

这次确定了!东契奇将被禁赛!三巨头81分,魔鬼赛程要来了

Haviven聊球
2026-03-28 22:34:06
郭麒麟白嫖网红外卖媛!

郭麒麟白嫖网红外卖媛!

八卦疯叔
2026-03-28 09:58:03
伊朗封锁海峡,川普拿捏能源买家和卖家达到顶点,差不多才会解决

伊朗封锁海峡,川普拿捏能源买家和卖家达到顶点,差不多才会解决

邵旭峰域
2026-03-28 16:00:03
越扒越有!张雪峰去世早有预兆,他的2个不良爱好,或成催命符

越扒越有!张雪峰去世早有预兆,他的2个不良爱好,或成催命符

孤城落日
2026-03-28 03:41:07
2026-03-29 08:04:49
灰度测试中
灰度测试中
生活正在重构,目前还在灰度测试阶段,暂不全量发布。
360文章数 2关注度
往期回顾 全部

数码要闻

博主为苹果MacBook Neo改装水冷散热,单核性能暴涨18.6%

头条要闻

上海爷叔在家"打伞做饭" 自嘲掏空三代400万买了个啥

头条要闻

上海爷叔在家"打伞做饭" 自嘲掏空三代400万买了个啥

体育要闻

“我是全家最差劲的运动员”

娱乐要闻

陈牧驰陈冰官宣得子 晒一家三口握拳照

财经要闻

卧底"科技与狠活"培训:化工调味剂泛滥

科技要闻

华为盘古大模型负责人王云鹤确认离职

汽车要闻

置换补贴价4.28万起 第五代宏光MINIEV正式上市

态度原创

教育
家居
本地
健康
公开课

教育要闻

“女孩家长心真大!”小男孩带女同学回家留宿,网友破防了!

家居要闻

曲线华尔兹 现代简约

本地新闻

在潍坊待了三天,没遇到一个“潍坊人”

干细胞抗衰4大误区,90%的人都中招

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版