网易首页 > 网易号 > 正文 申请入驻

NeurIPS'26|大模型有思考惯性:答案越开放,越停不下思考

0
分享至


新智元报道


通过接口关掉大模型的「思考模式」(如将Qwen3的enable_thinking设为False),再告诉它「不要推理,直接给出答案」,它就会直接回答吗?实际输出并不符合我们日常直觉。

清华大学、牛津大学和斯坦福大学的研究者系统测试了这个问题。他们发现,即使关闭思考模式,模型仍可能在最终答案前写出计算或推导;题目越开放,这种现象越明显。研究者把这种现象称为Thinking Inertia(思考惯性)。


论文链接:https://arxiv.org/abs/2610.11765

项目主页:https://thinking-inertia.github.io/

代码链接:https://github.com/thinking-inertia/code

轨迹数据:https://huggingface.co/datasets/thinking-inertia/llm-nothinking-trajectories


图1 即使明确要求只输出选项,模型仍可能写出解题过程。


先把「回答」拆开答案前面写了什么?

判断模型是否在推理,不能只看思考开关或回答长度。一个关闭了思考开关的模型,仍然可能在普通回答区写出计算过程;一段很长的文字,也可能只是重复题目、套用格式,未必包含真正的推理。

于是,研究者把回答拆成前置文字与最终答案,再分三层检查。ETR看模型有没有真的只给答案:答案格式必须合法,前后都不能有实质性文字。QRel.衡量前置文字与问题的相关性,复述题目也可能得分较高。EIR则进一步判断其中有没有计算、比较、排除等显式推理步骤。

负责评判的模型看不到被测模型的身份和实验设置。在600条抽样输出上,五名标注者与自动评判的「是否包含显式推理」二分类平均一致率为98.8%。


图2 三层指标分别检查是否只给答案、文字是否相关、是否包含显式推理。


六个模型、三大类型、六个基准

实验覆盖Qwen3、DeepSeek、GPT和Gemini四个家族的六个模型,在六个基准上测试不同思考设置和作答指令对输出的影响。问题分为判断题、选择题和需要自行生成答案的开放式数学题。

总体而言,只需回答是或否时,模型更容易直接作答;选择题的显式推理比例居中;到了开放题,答案前的可见推理明显增多。更严格的「只给答案」指令会降低显式推理比例,但三类任务之间的总体排序依然存在:开放题 > 选择题 > 是非题。

一个直观例子来自DeepSeek-V4-Flash:关闭思考模式后,它在GSM8K和MATH两项基准上的总体显式推理率仍达99.9%。

这意味着,关闭思考开关,并不能保证模型在最终答案前省略推理过程。

即使最终答案正确,模型仍可能没有遵循「只给答案、不输出推理」的要求;答对题与按要求直接作答,是两个需要分别评价的维度。


同一道题,只改答案形式,结果也会变

差异是否来自题目本身?

研究者从MMLU和MMLU-Pro中选取一批数值答案题,保留题干,改变候选答案和作答要求,并在Qwen3-32B关闭思考模式的设置下比较。

原始选择题的准确率为77.8%,只给答案的比例为10.5%;改成判断题,让模型核对一个给定答案后,准确率仍为78.9%,只给答案的比例却升到62.5%。去掉候选项,让模型自行生成结果时,准确率降到52.6%,只给答案的比例变为0,显式推理比例达到90.1%。

有候选答案时,模型可以核对或选择;没有候选答案时,它需要自己构造结果,也更容易在答案前写出推理过程。


图3 同一批题目改成不同回答形式后,准确率和输出行为随之变化。


约束越强,开放题的代价越明显

要求模型少写过程,还会牵动最终准确率。对五个支持关闭思考模式的模型,在开放式数学题上进一步加入严格的只给答案指令后,平均只给答案比例从接近0提高到约40%,平均准确率下降约15个百分点。判断题和选择题的准确率变化则相对平稳。

因此,能否按要求不输出推理、直接作答,也应成为一项受到重视、被独立评估的模型能力。

这种能力不会随着思考开关的关闭自动获得,评测时需要同时考察输出合规性与答案正确率。

这项工作也引起了社区的后续验证。George Shostakovych 受论文启发,对Gemini-4-Argon、GPT-6-Astra、Kimi-K3、DeepSeek-V4-Flash和Muse-Wonder-1.0进行了小规模独立测试,在其中观察到关闭思考后仍可能输出显式推理的现象,并在博客中报告了结果[2]。


研究团队

第一作者Dianqiao Lei 是清华大学大四本科生,Kevin Qinghong Lin 与 Philip Torr、James Zou 共同担任通讯作者。

Kevin Qinghong Lin 是牛津大学博士后学者;Pan Lu 是斯坦福大学博士后学者;Philip Torr 是牛津大学工程科学系教授;James Zou 在斯坦福大学计算机科学系和电气工程系任副教授。

论文已被 NeurIPS 2026 接收,论文、代码和数据已公开。

参考资料:

[1] Thinking Inertia: LLMs Keep Thinking When Told Not To https://arxiv.org/abs/2610.11765

[2] George Shostakovych. 'Answer only' is a request, not a switch. 2026年10月15日。 https://gshost.dev/writing/answer-only-is-a-request/

编辑:LRST

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
性能双王!小米新机官宣:10月27日,正式发布!

性能双王!小米新机官宣:10月27日,正式发布!

科技堡垒
2026-10-25 11:03:17
1959年,毛主席得知堂弟被划为“富农”,他回应:那我是不是也属富农?

1959年,毛主席得知堂弟被划为“富农”,他回应:那我是不是也属富农?

大运河时空
2026-10-26 08:50:05
一物降一物!利物浦“打花”布莱顿,大将3分钟伤退,1大纪录被终结

一物降一物!利物浦“打花”布莱顿,大将3分钟伤退,1大纪录被终结

汪星人哟
2026-10-25 23:02:15
“浑身都是放纵的痕迹!”母亲晒儿子大学三年变化,连面相都变了,家长认为责任在学校,网友们痛斥

“浑身都是放纵的痕迹!”母亲晒儿子大学三年变化,连面相都变了,家长认为责任在学校,网友们痛斥

蝴蝶花雨话教育
2026-10-20 00:05:15
释永信被女徒弟爆料,凌晨4点去他房间,拿到皈依证就算师徒关系

释永信被女徒弟爆料,凌晨4点去他房间,拿到皈依证就算师徒关系

汉史趣闻
2025-07-30 09:57:38
泽连斯基:拒绝放弃25%的领土,俄军目前实际控制了乌方约19.3%的领土;过去三个月,乌克兰仅从美国接收24枚“爱国者”防空系统拦截弹

泽连斯基:拒绝放弃25%的领土,俄军目前实际控制了乌方约19.3%的领土;过去三个月,乌克兰仅从美国接收24枚“爱国者”防空系统拦截弹

极目新闻
2026-10-25 09:42:32
大嫂徐冬冬晒写真照片,网友说法不一,本尊回应做最好的自己!

大嫂徐冬冬晒写真照片,网友说法不一,本尊回应做最好的自己!

小小一米月儿
2026-10-26 08:26:14
大脑为什么要删除三岁前的记忆?网友的回答让我泪目了!

大脑为什么要删除三岁前的记忆?网友的回答让我泪目了!

另子维爱读史
2026-10-03 20:36:50
尤文主帅:梅西有历史第一的技术!但更强的是大局观和球商!

尤文主帅:梅西有历史第一的技术!但更强的是大局观和球商!

罗吹终结者
2026-10-25 21:18:50
9B模型塞进8GB显卡,他试完开始重算Claude订阅账

9B模型塞进8GB显卡,他试完开始重算Claude订阅账

我是一个养虾人
2026-10-25 05:34:24
易建联为妻儿建的洛杉矶豪宅烧成灰,如今2000平空地估价曝光,数字让人意外,中介爆出实情

易建联为妻儿建的洛杉矶豪宅烧成灰,如今2000平空地估价曝光,数字让人意外,中介爆出实情

LULU生活家
2026-08-31 15:33:38
27层的楼,装得下600个仆人,装不下一个母亲对儿子身体的担心

27层的楼,装得下600个仆人,装不下一个母亲对儿子身体的担心

鱼语昱雨轩
2026-10-26 03:16:38
最邪恶的实验:6女4男船上共渡100天,失去法律约束,结果如何?

最邪恶的实验:6女4男船上共渡100天,失去法律约束,结果如何?

泪满过眼
2026-10-20 07:44:02
毛不易婚礼致辞完整原话曝光,被剪掉的半句话才是重点

毛不易婚礼致辞完整原话曝光,被剪掉的半句话才是重点

海藻娱乐
2026-10-23 10:40:46
11小时无人值守,Gemini改完20万行代码

11小时无人值守,Gemini改完20万行代码

我是一个养虾人
2026-10-25 00:02:44
就在大家都以为中国会坚决回应时,北京却选择了战略克制。

就在大家都以为中国会坚决回应时,北京却选择了战略克制。

回京历史梦
2026-08-22 18:23:43
体操世锦赛收官奖牌榜:中美第1,亚美尼亚2金2铜第4省队首金第7,女团落后1.967分到逆转夺冠,鹿特丹这届世锦赛,奖牌背后都是咬碎牙的稳

体操世锦赛收官奖牌榜:中美第1,亚美尼亚2金2铜第4省队首金第7,女团落后1.967分到逆转夺冠,鹿特丹这届世锦赛,奖牌背后都是咬碎牙的稳

暖暖的笑q
2026-10-26 06:50:18
羡慕哭了!宝马裁员8000人,离职补偿金最高达487万元!员工争着离职挤崩系统

羡慕哭了!宝马裁员8000人,离职补偿金最高达487万元!员工争着离职挤崩系统

聊斋新志
2026-10-22 19:28:15
有人把话挑明了:美国真正怕的,不是中国动手,是中国坐下

有人把话挑明了:美国真正怕的,不是中国动手,是中国坐下

纪史行者
2026-10-25 09:00:10
1992年叶利钦第一次来华访问,国宴席间饮下一斤茅台,随行人员透露:准备回国之时,他在钓鱼台痛哭半小时

1992年叶利钦第一次来华访问,国宴席间饮下一斤茅台,随行人员透露:准备回国之时,他在钓鱼台痛哭半小时

唠叨说历史
2026-10-23 16:44:45
2026-10-26 09:36:49
次元君情感
次元君情感
分享情感生活
342文章数 18628关注度
往期回顾 全部

科技要闻

苹果首款折叠屏没能养肥黄牛

头条要闻

600亿公司59岁总裁被指父承子业 "圆通太子"发文澄清

头条要闻

600亿公司59岁总裁被指父承子业 "圆通太子"发文澄清

体育要闻

文班、约基奇和扬尼斯各自的处境

娱乐要闻

王佳佳近况:44岁导演老公露面

财经要闻

全球AI产业链迎“去杠杆”,何处是底?

汽车要闻

专业越野+华为乾崑智能 猛士X700限时焕新价20.98万起

态度原创

亲子
旅游
房产
手机
家居

亲子要闻

小鸭鸭的嘴也太甜了,几句话就把妈妈哄得乐开了花

旅游要闻

团结湖参考|以首善标准做好长城保护发展这篇大文章

房产要闻

百亩大盘又 +1!攒量超 200 万㎡!江东,要燃起来了!

手机要闻

苹果升级iPhone防盗系统:防止有人退货时偷换配件

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版