网易首页 > 网易号 > 正文 申请入驻

ICLR 2026 | NeuroAdapter:直接从大脑信号“画”出你所见

0
分享至



如果人类的大脑能直接连接打印机,将我们脑海中闪过的画面实时还原出来,这个世界会变成什么样?

这听起来像是在致敬《盗梦空间》,一项名为 NeuroAdapter 的视觉解码框架正让这一幕变得触手可及。

来自哥伦比亚大学研究团队的最新成果表明,我们不仅能从 fMRI(功能磁共振成像)信号中高保真地重建视觉图像,还能第一次看清:到底是哪块脑区在“指挥”这场艺术创作。



01 告别“中间商”:脑信号直接转化

传统的脑电图像重建就像玩“传声筒”游戏:先要把大脑信号翻译成一段文字或中间特征,再交给 AI 去画图。 痛点很明显:信息在层层转手间失真了,而且你根本分不清哪些细节来自大脑,哪些又是 AI 自己的瞎编。



左图:典型的两阶段解码流程首先将大脑活动映射至中间特征空间(例如 CLIP/DINO),随后利用这些嵌入向量来引导生成模型。右图:我们的端到端方法直接以大脑活动为条件来驱动潜在扩散模型,从而实现了对图像空间与大脑空间中生成动态的解读。

NeuroAdapter 选择了最硬核的路线:端到端直连。它舍弃了冗余的中间特征空间,直接让大脑表征去“约束”潜在扩散模型(LDM)的生成过程。下图为NeuroAdapter 训练流程。皮层分区 + 线性映射 + 扩散控制。通过将脑皮层顶点数据直接映射为“大脑标记(tokens)”,AI 就像直接读取了大脑的底层逻辑,重构质量直接比肩目前最前沿的复杂算法。



(a) fMRI 数据采集范式;(b) 皮层分区;(c) 基于分区的线性映射,将顶点数据映射为大脑表征标记(tokens);以及 (d) 利用这些标记对潜在扩散模型(Latent Diffusion Model)进行条件控制,以实现图像重构。

该框架的另一个重要组件是大脑编码器。受 Kneeland 等人的启发,研究人员使用了一个基于相同 fMRI 图像训练数据集训练的全脑编码器,以在评估过程中识别最佳解码刺激。



(a) 基于大脑编码器的图像选择示例:针对一个 NSD 测试样本,利用预测的 fMRI 响应与实测的 fMRI 响应之间的皮尔逊相关系数进行图像筛选。(b) 红色曲线:由解码图像预测出的大脑活动与实测大脑活动之间的相关性。蓝色曲线:针对测试集中的刺激图像所预测的大脑活动与对应的 fMRI 响应之间的相关性。

02 IBBI 框架:给大脑解码装上监测器

光能画出来还不够,科学家更想知道“为什么”。 研究团队引入了一种“图像—大脑双向可解释性框架”(IBBI),通过分析扩散去噪过程各阶段的交叉注意力模式,来揭示不同皮层脑区如何影响生成过程的演进轨迹。本研究不仅突显了端到端“大脑—图像”重建技术的巨大潜力,更为实现可解释的神经解码确立了一条可行路径。

通过监控扩散去噪过程中的“交叉注意力模式”,IBBI 就像一台高速摄影机,捕捉到了惊人的动态:

早期阶段:图像还是一团混沌时,大脑的注意力是“漫射”的,在广泛搜寻结构。

中后期阶段:随着轮廓显现,注意力迅速“收敛”,精准锁定在图像的核心内容上。

团队甚至给脑区排了序,划分出五个层级。 这种可视化方案让我们一眼就能识别出谁是主导生成的“高影响力脑区”,谁又是打酱油的“次要脑区”。



03 因果扰动实验:遮住“高级语义区”会怎样?

为了验证这套逻辑的可靠性,研究者探索了其“因果扰动”。 他们尝试对特定的感兴趣区域(ROI)进行遮蔽:

遮掉低层级脑区:生成的图像语义基本没变,就像少了点无关紧要的噪点。

遮掉高层级脑区:图像瞬间崩塌,内容发生彻底改变!



模型对比。在八项图像质量指标上,对现有方法与本方法(NeuroAdapter)的解码性能进行了对比。为确保对比的公平性,图中结果均以相对于“特定受试者的 ImageNet 检索基线”的相对提升幅度形式呈现。



图示为去噪过程中平均脑区贡献向量在皮层表面的投影示例。黄色区域表示在去噪过程中影响较大的脑区,蓝色区域则表示影响较小的脑区。

实验数据证明,NeuroAdapter 在高级语义指标上表现尤为强悍,甚至在没有独立低级通路的情况下,依然跑出了极其扎实的性能指标。

04 未来:如何从形似走向神似

论文团队在讨论中提到一个深刻的观点:目前的脑解码基准测试已经快“饱和”了。 很多时候得分高只是因为 AI 模型更强,而不是我们更懂大脑。

NeuroAdapter 的意义在于,它提供了一个“神经活动—生成过程”的交互界面。当我们能以双向互联的方式将脑活动与图像特征紧密耦合,脑机接口将不再是一个黑盒,而是一条通往理解人类意识的透明路径。

下一步,团队将致力于解决扩散模型自带的随机性波动,让“大脑画笔”更加稳定、一致。

也许不久后的未来,我们分享梦境的方式,将不再是苍白的文字,而是一张精准重构的快照。



脑机接口社区是国内首家脑机接口(BCI)产业服务平台、国内脑机接口新媒体开创者与引领者。主要为企业、科研团队、投资机构和从业者提供以下服务:

宣传报道:图文、短视频、直播形式报道企业动态、技术解读、产品介绍等内容,提升曝光和行业影响力。

资源对接:根据需求匹配资本、供应链、临床机构、渠道方等资源,完成真实对接,促进合作。

成果转化:协助技术团队寻找产业方、投资人及落地场景,推动技术到产品的转化。

活动策划执行:承接线上线下路演、沙龙、论坛等活动的策划与执行。

其他定制需求:包括报告定制、市场调研、人才招聘支持等个性化服务。


合作洽谈,请联系微信:ZuoLeiLeiya

(备注:姓名-单位-合作)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
印度破纪录了,恒河水被洗到“拉丝”,首都或将不再适合人类居住

印度破纪录了,恒河水被洗到“拉丝”,首都或将不再适合人类居住

有牙的兔纸
2026-08-29 18:39:05
西藏吉隆泥石流灾害原因查明,冰岩崩从发生到冲击我国吉隆口岸仅约6至7分钟;堰塞体已溢流泄洪,发生整体溃决的可能性较小

西藏吉隆泥石流灾害原因查明,冰岩崩从发生到冲击我国吉隆口岸仅约6至7分钟;堰塞体已溢流泄洪,发生整体溃决的可能性较小

三湘都市报
2026-08-30 08:50:35
孙割不体面,有人帮他体面

孙割不体面,有人帮他体面

求实处
2026-08-29 20:10:29
电影《肖申克的救赎》内地票房破1000万元

电影《肖申克的救赎》内地票房破1000万元

界面新闻
2026-08-30 12:21:24
唐尚珺这笔账够精明!3000公里车辆托运3000元,选择自驾返程,网友:不划算

唐尚珺这笔账够精明!3000公里车辆托运3000元,选择自驾返程,网友:不划算

育学笔谈
2026-08-29 20:24:08
孟庆源已任上海青浦区委副书记

孟庆源已任上海青浦区委副书记

澎湃新闻
2026-08-30 21:10:29
端姿态式穿搭,天生形态如此,并非故意做作!

端姿态式穿搭,天生形态如此,并非故意做作!

飛尚日记
2026-08-28 07:50:37
媒体:扎哈罗娃的警告在英国引发强烈反应

媒体:扎哈罗娃的警告在英国引发强烈反应

俄罗斯卫星通讯社
2026-08-30 16:09:47
将消防员送到吉隆口岸,直升机难以实现,为啥无人机却先做到了?

将消防员送到吉隆口岸,直升机难以实现,为啥无人机却先做到了?

陶慕剑地球观察
2026-08-30 07:40:40
女排亚锦赛颁奖!赵勇球员情绪不佳,泰国开心庆祝,陈忠和颁金牌

女排亚锦赛颁奖!赵勇球员情绪不佳,泰国开心庆祝,陈忠和颁金牌

篮球资讯达人
2026-08-30 22:21:21
今日!CCTV5直播中国男篮,5+转郑钦文等出战美网,网络转丁俊晖+意甲+西甲等

今日!CCTV5直播中国男篮,5+转郑钦文等出战美网,网络转丁俊晖+意甲+西甲等

晚池
2026-08-31 00:51:21
突然,猛烈抛售!“大风暴”来袭!欧洲大国,发生了什么?

突然,猛烈抛售!“大风暴”来袭!欧洲大国,发生了什么?

证券时报
2026-08-30 13:43:16
多名购票旅客称未收到列车停运通知,到站后才知停运,12306APP仍显示“计划出发”,客服回应

多名购票旅客称未收到列车停运通知,到站后才知停运,12306APP仍显示“计划出发”,客服回应

极目新闻
2026-08-30 21:06:56
摇号十几年一直陪跑?北京公平新政来了年限兜底能否圆刚需车牌梦

摇号十几年一直陪跑?北京公平新政来了年限兜底能否圆刚需车牌梦

小怪吃美食
2026-08-31 01:09:00
126比74狂胜52分!男篮世预赛又诞生一惨案:中国队该庆幸避开他们了?

126比74狂胜52分!男篮世预赛又诞生一惨案:中国队该庆幸避开他们了?

篮球快餐车
2026-08-30 17:02:14
美媒:2架中国6代机“歼-36”,首次曝光空中加油,距首飞才20个月,仍用软管空中加油

美媒:2架中国6代机“歼-36”,首次曝光空中加油,距首飞才20个月,仍用软管空中加油

蓝星杂谈
2026-08-29 18:18:11
中方发布撤侨提醒,越来越多迹象表明了,台当局的最后据点要塌?

中方发布撤侨提醒,越来越多迹象表明了,台当局的最后据点要塌?

风笛悠扬声
2026-08-30 05:12:31
中央纪委副书记、国家监委副主任孙新阳,当选新职

中央纪委副书记、国家监委副主任孙新阳,当选新职

上观新闻
2026-08-30 17:40:26
孙宇晨长文提及的三大顶奢目的地:从特内里费到马尔代夫,每晚房价可达5.5万元

孙宇晨长文提及的三大顶奢目的地:从特内里费到马尔代夫,每晚房价可达5.5万元

第一财经资讯
2026-08-28 20:25:35
上海一名36岁男子妻子离世,独自抚养一双儿女,岳母主动提出

上海一名36岁男子妻子离世,独自抚养一双儿女,岳母主动提出

王二哥老搞笑
2026-08-31 00:57:37
2026-08-31 07:28:49
脑机接口社区 incentive-icons
脑机接口社区
关注脑机前沿,分享脑机技术
360文章数 32关注度
往期回顾 全部

科技要闻

OpenClaw:红过,爱过,散了

头条要闻

媒体:曾是商务标配 中国男人正在"抛弃"皮鞋

头条要闻

媒体:曾是商务标配 中国男人正在"抛弃"皮鞋

体育要闻

库明加和狼,突破天花板差的那一点距离

娱乐要闻

梅艳芳母亲覃美金离世,享年102岁

财经要闻

纪念币骗局触碰法律红线!专坑老人!

汽车要闻

巨幕长联屏/天神之眼/云辇-C 方程豹钛9将于四季度上市

态度原创

时尚
亲子
本地
教育
数码

乐福鞋,搞定一周穿搭

亲子要闻

智力小动画:忘记了什么?

本地新闻

昆明的雨,解锁汪曾祺的浪漫雨季

教育要闻

山东大学2026新生大数据出炉:34名新生叫浩然,济南历城二中登顶省内生源中学排行榜榜首

数码要闻

Apple Watch Series 12或推出白色与深灰色陶瓷表壳

无障碍浏览 进入关怀版