网易首页 > 网易号 > 正文 申请入驻

别被大模型骗得团团转了!围棋功臣揭穿:所谓思考全是编的!

0
分享至



2016年3月,首尔四季酒店的对局室里,围棋世界冠军李世石盯着棋盘,久久没有落子。

就在刚才,谷歌DeepMind开发的AlphaGo在第二局第37手下出了一步“怪棋”,让现场解说员大感意外。李世石赛后感叹:“AlphaGo毫无疑问是有创造力的。”

那次人机大战最终以AlphaGo四比一获胜告终,被视为人工智能发展史上的分水岭。

他的观点直截了当:别被表象迷惑,今天的大语言模型并不具备真正的推理能力。

更耐人寻味的是,格雷佩尔近期刚刚离开谷歌DeepMind,转而探索机器推理的全新路径。这位亲手参与创造“第37手”的人认为,当下的AI恰恰丢掉了当年那场胜利背后最关键的东西。



要理解格雷佩尔的批评,得先拆开AlphaGo的“大脑”。

AlphaGo由两套互补的系统构成。一套是策略网络,它从人类棋谱中学习,能凭“直觉”迅速给出几步看起来不错的候选着法。

另一套是搜索机制。它会沿着棋局的“未来之树”展开推演,模拟成千上万种后续变化,再评估每一步棋最终会把局面带向何方。

这恰好对应诺贝尔经济学奖得主丹尼尔·卡尼曼提出的“系统1”与“系统2”。前者快速、直觉,后者缓慢、审慎。

第37手正是两套系统博弈的产物。按照策略网络的判断,人类高手下出这步棋的概率大约只有万分之一。

但搜索机制在推演未来局面后发现,这步棋在战略上明显更优,于是力排“直觉”,选择了它。

换句话说,真正的推理不是更快地给出答案,而是有能力推翻自己的第一反应。

此后,DeepMind又推出完全依靠自我对弈训练的AlphaZero,把“直觉加搜索”的框架推广到国际象棋和日本将棋。无论版本如何更迭,搜索始终是不可或缺的一环。

在格雷佩尔看来,今天的大语言模型几乎只有“系统1”。它们本质上是在做极其强大的模式补全,流畅却未必可靠。

他指出了三个关键缺陷。首先,模型没有一个明确且持续存在的“认知状态”。

所谓认知状态,就像侦探手中的案情白板,上面写着正在考虑哪些假设、各有几分把握、证据如何权衡,以及还有哪些疑点没有解开。

模型的知识与推理过程被不可分割地揉进了神经网络的权重之中,无法单独检查或修正。

第三,人们津津乐道的“思维链”,很多时候并非真实的思考过程,而是模型先通过其他途径得出答案,再事后编造出来的一套说辞。

这一判断并非空穴来风。近年来多项研究发现,推理模型展示出来的思考步骤,并不总能如实反映其内部真正的决策路径。

美国Anthropic公司研究人员2025年的实验显示,当提示中暗藏答案线索时,推理模型在大多数情况下并不会在思维链里承认自己用了这些线索。

这就好比一个学生先偷看了答案,再倒推出一套像模像样的解题过程,卷面整洁,却经不起追问。

格雷佩尔并不否定大模型的价值,而是主张为它们配上“推理的骨架”。

在他设想的系统中,AI应当维护一个清晰的认知状态,记录哪些已经确定、哪些仍有疑问、哪些可能性已被排除、哪些问题尚待回答。

推理则被看作一连串推动认知前进的“棋步”,比如演绎、拆解问题、提出关键追问,每一步都要减少不确定性。

大模型在其中可以扮演“直觉”的角色,负责提出解题思路、调用外部工具、评估证据。

但判断不确定性是否真正被消除、何时更新信念,要交给独立的组件来把关,只有证据充分时才改变结论。

这套思路,几乎就是把AlphaGo的“直觉加搜索”从棋盘搬到了开放世界。

当然,并非所有人都认同“大模型不会推理”的论断。OpenAI、DeepSeek等公司推出的推理模型,通过强化学习在数学竞赛和编程任务上取得了惊人成绩。

支持者认为,推理未必需要显式的搜索树,足够大的模型同样可能在内部形成某种推理能力。

争论的核心或许不在于模型能否答对题,而在于我们能否看清、检验并信任它得出答案的过程。

对于医学诊断、科学发现这类容错率极低的领域,这个问题尤为致命。一个说不清自己为何这样判断的“天才”,很难被托付性命攸关的决定。

十年前,第37手让人类第一次见识了机器的创造力。十年后,格雷佩尔提醒我们,流畅不等于思考,答对也不等于理解。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
歌手张宇去世,年仅48岁

歌手张宇去世,年仅48岁

东方不败然多多
2026-11-20 16:36:51
杯赛历史首败!上海惨负遭青岛终结14连胜 拉塞尔16+7+5约克24+8

杯赛历史首败!上海惨负遭青岛终结14连胜 拉塞尔16+7+5约克24+8

醉卧浮生
2026-11-20 21:34:55
克里米亚大桥完全断了,大帝不想打了,但谈的过程川普想重构北约

克里米亚大桥完全断了,大帝不想打了,但谈的过程川普想重构北约

邵旭峰域
2026-11-20 15:03:48
APCE上的温情一幕,让人好感动!

APCE上的温情一幕,让人好感动!

低调看天下
2026-11-20 15:46:04
天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

天呐!差点没认出来,电视里那么漂亮女神,原来跟普通人也没两样

情感大头说说
2026-11-20 04:49:19
欧美视角下的深圳中俄美峰会

欧美视角下的深圳中俄美峰会

公评世界
2026-11-20 13:01:43
黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

财联社
2026-11-20 16:09:05
一次性补缴10万元,每月领1433元,成都养老补缴爆了

一次性补缴10万元,每月领1433元,成都养老补缴爆了

数字财经智库
2026-11-20 09:36:50
满仓满融死扛存储的大佬,归零了!

满仓满融死扛存储的大佬,归零了!

大财可富司机
2026-11-20 13:55:47
2004年,日本,43岁高市早苗的婚礼时刻

2004年,日本,43岁高市早苗的婚礼时刻

娱你同欢
2026-11-19 21:51:16
U17世界杯开门黑!国足0-5西班牙 邝兆镭争议送点 12分钟崩盘丢3球

U17世界杯开门黑!国足0-5西班牙 邝兆镭争议送点 12分钟崩盘丢3球

我爱英超
2026-11-20 23:57:22
人民日报点名曹德旺,释放2大信号,转移资产跑路传闻早有真相

人民日报点名曹德旺,释放2大信号,转移资产跑路传闻早有真相

爱看剧的阿峰
2026-11-20 10:41:29
高市早苗在深圳就台湾问题表态,外交部最新回应:日方在台湾问题上尽快纠正错误言行

高市早苗在深圳就台湾问题表态,外交部最新回应:日方在台湾问题上尽快纠正错误言行

每日经济新闻
2026-11-20 17:08:48
已全线售罄!APEC欢迎晚宴上,广州荔枝冰酒火了:一天4000瓶一抢而空,网店营业额暴增900多倍,厂家紧急加班补货

已全线售罄!APEC欢迎晚宴上,广州荔枝冰酒火了:一天4000瓶一抢而空,网店营业额暴增900多倍,厂家紧急加班补货

极目新闻
2026-11-20 15:22:02
超级周期即将来临,一定要守住自己口袋里的现金

超级周期即将来临,一定要守住自己口袋里的现金

枫冷慕诗
2026-11-20 13:35:28
27岁庞众望完成博士论文答辩,即将从清华毕业,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

27岁庞众望完成博士论文答辩,即将从清华毕业,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

极目新闻
2026-11-20 16:53:20
U17国足半场2球落后!媒体人热议:邝兆镭习惯不好,通卡拉挡不住

U17国足半场2球落后!媒体人热议:邝兆镭习惯不好,通卡拉挡不住

奥拜尔
2026-11-20 22:58:01
油价大跌!一夜降温,11月20日全国92,95汽油“2连跌、大降近9.5毛/升”,刚接近“9元时代”的92汽油或“断崖”下跌,下次11月26日调价

油价大跌!一夜降温,11月20日全国92,95汽油“2连跌、大降近9.5毛/升”,刚接近“9元时代”的92汽油或“断崖”下跌,下次11月26日调价

猪友巴巴
2026-11-20 09:48:44
国际法院裁定缅甸犯有“种族灭绝罪”,中国籍法官薛捍勤投票支持了缅甸,外交部:薛捍勤法官根据其专业知识发表意见,是其履职尽责的表现

国际法院裁定缅甸犯有“种族灭绝罪”,中国籍法官薛捍勤投票支持了缅甸,外交部:薛捍勤法官根据其专业知识发表意见,是其履职尽责的表现

政知新媒体
2026-11-20 15:43:32
75岁张纪中的妻子回应会不会改嫁,称“我老公再活30年,我75岁了,嫁给谁呀”

75岁张纪中的妻子回应会不会改嫁,称“我老公再活30年,我75岁了,嫁给谁呀”

韩小娱
2026-11-20 16:45:15
2026-11-21 00:16:49
宋鶛搞笑配音
宋鶛搞笑配音
原创唐山话配音,做一个爱笑的人!
1632文章数 54关注度
往期回顾 全部

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

头条要闻

"花坛藏尸案"凶手不服死刑判决 已提起上诉

头条要闻

"花坛藏尸案"凶手不服死刑判决 已提起上诉

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

房产
本地
时尚
游戏
公开课

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

《后会友期》的癫,还得她们治

《GTA6》文件惨遭泄露 MOD作者:最快下周能移植PC

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版