网易首页 > 网易号 > 正文 申请入驻

别吵了,这张图把大模型能力说清了

0
分享至

斯坦福和清华的研究者最近干了一件事:他们画了一张图,把"大模型有没有智能"这个吵了五年的问题,拆成了五层。看完你会发现,两边吵的人根本不在同一个频道。

第一层:测量幻觉


很多"突然变聪明"的现象,换个尺子量就消失了。Schaeffer等人2023年的实验很直白:用"完全匹配"这种非线性指标,模型能力看起来是阶跃式爆发;换成"逐词准确率"这种连续指标,曲线立刻变平滑。

这不是模型真的顿悟了,是你的评分标准在演戏。

这类"涌现"被归为L0——度量伪象。论文里的原话是:"A measurement illusion."

第二层:结构真的长出来了

但有些东西确实不是幻觉。Anthropic 2022年发现的"归纳头"(induction heads)是个硬证据:20亿参数以下,这玩意儿不存在;一过阈值,突然冒出来,而且训练损失曲线同步出现相变。

更关键的是你能动手干预。港大、复旦、腾讯2025年的"定位-操控-改进"范式,已经能直接修改这些内部结构,进而改变模型行为。

这是L1——结构涌现。物理上可验证,不是数字游戏。

第三层:功能意外解锁

结构变化带来能力溢出。Othello GPT是教科书案例:训练目标只是"根据文本序列预测合法落子",完全没有棋盘状态的标注。但线性探针一插,发现中间层自发构建了完整的8×8棋盘表示。

训练目标被梯度下降自动拆解成了"棋盘状态→合法落子"。没人教它这么做。

这是L2——功能涌现。局限在于:封闭世界、规则明确。棋盘是固定的,规则是写死的。

第四层:真正的争议地带

L3才是战场。它要求两样东西:训练分布外的泛化能力,以及因果推理而非统计关联。

原文在这里断掉了。但框架已经够用了——它解释了为什么两派人永远吵不完:说"有智能"的通常指L0-L2,说"没有"的盯着L3-L4。一个看的是"能做什么",一个看的是"怎么做到的"。

这个五层框架的价值,是把"有没有"变成"到哪一层"。下次再有人争论大模型智能,你可以先问:你说的哪一层?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
挂号费最高涨近一倍!主治医师成“香饽饽”,便民门诊不够“便民”?

挂号费最高涨近一倍!主治医师成“香饽饽”,便民门诊不够“便民”?

今日养生之道
2026-05-09 18:21:29
不得不说,广东队现在变成了“四不像”球队!

不得不说,广东队现在变成了“四不像”球队!

体育哲人
2026-05-09 20:42:37
莫拉致歉+解约大让步,邓卓翔临危再受命

莫拉致歉+解约大让步,邓卓翔临危再受命

足球报
2026-05-09 11:33:04
DeepSeek、阿里:谈崩了

DeepSeek、阿里:谈崩了

云头条
2026-05-09 09:47:28
没有坦克、没有青少年预备役:俄乌对峙下的俄罗斯胜利日阅兵

没有坦克、没有青少年预备役:俄乌对峙下的俄罗斯胜利日阅兵

红星新闻
2026-05-09 11:39:08
深度长文:食草动物明明能反抗,为何面对食肉动物总选择逃跑?

深度长文:食草动物明明能反抗,为何面对食肉动物总选择逃跑?

宇宙时空
2026-05-08 12:03:57
转账5千要查祖宗,内鬼卷走1800万却一路绿灯!银行双标太离谱了

转账5千要查祖宗,内鬼卷走1800万却一路绿灯!银行双标太离谱了

今朝牛马
2026-05-06 21:00:56
西媒:皇马计划下周二至周三敲定与穆里尼奥签约

西媒:皇马计划下周二至周三敲定与穆里尼奥签约

懂球帝
2026-05-09 19:45:20
伦敦世乒赛:半决赛开门红!孙颖莎3:0击败世界亚军,旗开得胜

伦敦世乒赛:半决赛开门红!孙颖莎3:0击败世界亚军,旗开得胜

国乒二三事
2026-05-09 19:59:58
别只吃鸡蛋!高蛋白食物新排名:豆腐第4,牛奶第3,第1名想不到

别只吃鸡蛋!高蛋白食物新排名:豆腐第4,牛奶第3,第1名想不到

全球军事记
2026-05-08 21:21:30
相差15岁姐弟恋!00后体育生爱上重庆单亲妈妈,喜欢叫对方姐姐

相差15岁姐弟恋!00后体育生爱上重庆单亲妈妈,喜欢叫对方姐姐

那年秋天
2026-05-03 11:50:10
绝了!梅西接班人亚马尔!67天姐弟恋!网友:这也太飘了!

绝了!梅西接班人亚马尔!67天姐弟恋!网友:这也太飘了!

罗氏八卦
2026-05-09 18:40:03
纳瓦尔:不要去管别人,只管早睡、运动和读书

纳瓦尔:不要去管别人,只管早睡、运动和读书

书窗小记
2026-05-06 21:38:32
痛悼!经全力抢救无效,何同原不幸离世,年仅58岁

痛悼!经全力抢救无效,何同原不幸离世,年仅58岁

阿芒娱乐说
2026-05-09 17:07:58
泪目了!河南三门峡24岁女子上午领结婚证,下午丈夫就出车祸瘫痪

泪目了!河南三门峡24岁女子上午领结婚证,下午丈夫就出车祸瘫痪

社会日日鲜
2026-05-02 10:24:30
特朗普:若伊朗同意协议将开放霍尔木兹海峡 ,否则轰炸就会开始 ,且规模和强度将远超以往 ,伊朗称正在审阅美方提案

特朗普:若伊朗同意协议将开放霍尔木兹海峡 ,否则轰炸就会开始 ,且规模和强度将远超以往 ,伊朗称正在审阅美方提案

每日经济新闻
2026-05-07 00:33:15
夏天穿这个颜色,显白高级太好看了

夏天穿这个颜色,显白高级太好看了

七柒时尚笔记
2026-05-09 19:05:31
7800亿军购案通过,韩国瑜窜访欧洲被打脸,赵少康再向郑丽文开火

7800亿军购案通过,韩国瑜窜访欧洲被打脸,赵少康再向郑丽文开火

DS北风
2026-05-09 16:10:04
圆明园地下大反转,大火烧掉的仅是圆明园的表皮

圆明园地下大反转,大火烧掉的仅是圆明园的表皮

混沌录
2026-04-24 21:02:11
孩子都是奔着妈妈来的!网友:我媳妇梦到的是大白蛇钻到她肚子里

孩子都是奔着妈妈来的!网友:我媳妇梦到的是大白蛇钻到她肚子里

带你感受人间冷暖
2026-03-14 00:10:08
2026-05-09 21:23:00
像素与芯片
像素与芯片
有态度网友ytd
3475文章数 23关注度
往期回顾 全部

科技要闻

美国政府强力下场 苹果英特尔达成代工协议

头条要闻

香港富豪孙女被绑架 绑匪拿到2800万后逃跑8人花11万

头条要闻

香港富豪孙女被绑架 绑匪拿到2800万后逃跑8人花11万

体育要闻

成立128年后,这支升班马首夺顶级联赛冠军

娱乐要闻

50岁赵薇脸颊凹陷沧桑得认不出!

财经要闻

多地号召,公职人员带头缴纳物业费

汽车要闻

轴距加长/智驾拉满 阿维塔07L定位大五座SUV

态度原创

亲子
本地
手机
数码
旅游

亲子要闻

萌星秀秀:请欣赏小萌星排练歌曲

本地新闻

用苏绣的方式,打开江西婺源

手机要闻

消息称今年市场除华为Pura X Max外,还有3台阔折叠即将发布

数码要闻

升级TMR魔晶磁轴Plus,CHERRY XTRFY K5 Ultra键盘公布

旅游要闻

告别“打卡式”旅游 境外游客来杭15分钟即可换证自驾

无障碍浏览 进入关怀版