思考的本质是挣扎：在AI时代，重估“写作之苦”的价值

如果努力把一个想法说清楚，本身就是我们理解它的过程之一，那么，那些替我们绕过这一过程的工具，或许也会削弱一种真正的科学发现最需要的思考能力。

几周前，我参加了一场学院会议，讨论研究生使用人工智能的相关政策。过去三年里，我们不断起草指南、修改指南，又眼看着这些指南很快过时。到这次会议上，尽管大家都知道，从技术上说几乎不可能真正执行一项禁令，我们仍在讨论一个问题：是否应该禁止研究生在学位论文开题报告和毕业论文中使用AI。

一位同事提到，麻省理工学院媒体实验室有一项研究曾引发广泛关注[1]。研究发现，使用ChatGPT写作的人，大脑神经连接有所减弱。研究者把这种现象称为“认知债务”。这项研究确实存在明显局限，但它让一种自ChatGPT问世以来不断累积的担忧变得更加清晰：如果写作本身就是一种思考，如果一个人正是在努力把想法说清楚的过程中，才逐渐理解这个想法，那么，那些替我们绕过这一过程的工具，或许也会削弱真正的科学发现最依赖的那种思考能力。

关于 AI 与科学写作，我已经思考了一段时间，却发现自己处在两种都无法完全接受的立场之间。一方面，无论称之为“认知债务”、技能退化，还是用其他方式来概括这个问题，这种担忧在我看来确实有其合理性。另一方面，反对者认为这些担忧被夸大了，这种说法也并非没有道理。而我越是试图寻找能够一锤定音的证据，就越觉得这样的证据并不存在。至少，对于真正从事科学研究的人群来说，目前还没有这样的证据。

认真写过东西的人都知道，写作在思考过程中有多重要。你可能正在写基金申请或研究计划里的“研究目标”部分。这个想法在脑子里原本很清楚，可一旦真正写下来，就是怎么都不顺。原先在脑中显得很稳固的逻辑，一落到纸面上就开始站不住。你调整了一下结构，结果又发现别的地方出了问题。这样挣扎了一个小时之后，你才意识到，问题并不只是“怎么说”，而是“到底有没有想清楚”。这个问题，是直到写作逼着你直面它时，你才真正看见的。

认为“写作就是思考”的人并不少。在这里，我们不妨把他们称为“认知传统主义者”。作家弗兰纳里·奥康纳（Flannery O’Connor）曾有一句广为流传的话：“我写作，是因为只有读到自己写下的话，我才知道自己在想什么。”理查德·费曼（Richard Feynman）谈到自己的笔记本时，也说过类似的话：“它们不是我思考过程的记录。它们就是我的思考过程。”

要说支持这种看法的研究证据，首先是已经积累了数十年的“以写促学”研究。针对学生群体的研究表明，写作本身会带来可以测量的学习收益，而且这种收益超过了单纯学习同一材料所能产生的效果[2]。其中一种理论解释借鉴了认知的联结主义模型，认为写作者对一个问题的理解常常是隐性的，并不能直接从记忆中提取出来；只有通过组织文字、形成文本，这种理解才会变得可以被写作者自己把握[3]。写作会迫使模糊的直觉变成明确的判断；一旦这些判断被固定在纸面上，写作者就可以根据自己的目标去检查它们，推理中的漏洞也会随之显现出来。

这一机制提示我们，写作并不只是在正式教育场景中才有学习价值，它本身就是一种学习工具。与此同时，来自航空、医学等领域的有力证据也表明，自动化辅助会加速技能退化，即便专家也不例外[4]。以我对这些证据的理解，依赖AI写作很可能会妨碍年轻科学家培养写作能力，也会让资深科学家的既有写作能力逐渐萎缩。

真正的问题在于：不借助AI的写作一旦减少，对科学而言到底有没有那么重要？在这个问题上，所谓“AI辩护者”也并非没有论据。他们的第一个理由是，写作未必像传统主义者所说的那样不可替代。写作带来的认知收益，也许并不来自写作本身，而是来自“外化”：也就是迫使头脑中的想法转化为某种外在形式，使它们能够被审视、被质疑、被修改。如果真正起作用的是这一机制，那么，对话或许也能发挥和独自写作类似的作用。你和同事讨论自己的想法，在组会上为自己的研究方案辩护，向另一个领域的合作者解释自己的项目，这些场景同样会让模糊的直觉经受检验，让推理中的漏洞显现出来，也让你发现自己到底在想什么。

心理学家丹尼尔·卡尼曼（Daniel Kahneman）和阿莫斯·特沃斯基（Amos Tversky）就曾经常一起长时间散步，在交谈中激发出许多想法，最终促成了后来获得诺贝尔奖认可的行为经济学研究[5]。倘若关键真的是“外化”，那么也有人可能会说，只要AI系统足够合适，与 AI 对话同样可以保留这种认知收益。你仍然在表达，仍然在把隐性的推理变成明确的说法。媒介变了，但机制也许还在。这也意味着，对科学而言，足够多有价值的思考或许可以发生在写作之外。因此，把写作交给AI分担，未必会像“认知传统主义者”所担心的那样影响巨大。

认真写过东西的人都知道，

写作在思考过程中有多重要。

AI辩护者也有数据支持，至少有某一类数据支持。上个月发表在《科学》上的一项研究发现，开始使用大语言模型的研究人员，论文产出数量增加了三分之一到二分之一，其中非英语母语研究者的增幅最大[6]。这并不是无关紧要的小事。非英语母语者在科研写作和发表中面临的障碍是真实存在的，也已有大量研究记录[7-8]。如果AI能够降低这些障碍，那么它确实会给科学中的公平性带来实实在在的好处。不过，这些数据最多只能说明，AI可能改善了科学进展在职业评价指标上的公平性，比如谁能产出更多论文；但它们并不能说明，背后的科学质量也随之提高了。事实上，许多科学家已经发出警告，AI可能只是加快了论文生产，却并没有触及那些真正拖慢科学进步的瓶颈[9]。

现在，认知传统主义者这边，有专家主张和教育研究；AI辩护者那边，有生产力数据和公平论证。但双方都缺少一类最关键的证据：当实际从事科研工作的科学家，不是学生，也不是从事常规任务的白领，而是真正做科学研究的人，把科学写作中的认知劳动交给AI时，到底会发生什么[10]？他们对自己研究的理解会不会变浅？他们的研究脉络会不会变得不那么连贯？他们会不会逐渐失去发现自己推理漏洞的能力？这样的研究大概永远都不会出现，因为它们几乎不可能被严谨地开展。你不可能随机分配足够多已经站稳脚跟的科学家，让一组人“自己写基金申请”，另一组人“把基金申请交给AI”，然后再追踪他们十年的职业发展。

于是，我们似乎只剩下一条建议：要“负责任地使用AI”。让AI接手那些无谓的费力过程，但保留真正有价值的认知劳动。表面上看，这是一种很合理的立场；我自己也曾采取过这种立场。你或许可以把当时的我称为一个“AI实用主义者”。但这种实用主义立场其实预设了某种特定的元认知能力：写作者能否在困难发生的当下判断出来，眼前这种卡顿究竟是有助于思考，还是只是在制造挫败？

我曾经对此抱有希望，但后来逐渐得出一个结论：写作者恐怕并不能做出这样的判断，至少不能稳定地做到。关于元认知的研究表明，我们对自身学习状态的直觉不仅不可靠，甚至会反过来误导我们。教育研究者用“有益困难（desirable difficulties）”这个概念，来描述那些过程更费劲、却能带来更好学习效果的条件；与之相对的是，有些条件让人感觉自己学到了东西，但实际上并不会产生相应的学习效果。

问题在于，人们并不能可靠地区分这两者。事实上，人们通常更偏爱那些“感觉上像是在学习”的条件。学生会觉得，听一场打磨得很精致的讲座，比主动参与活动学到的东西更多，尽管研究显示情况恰恰相反[11-12]。接受训练去识别画家风格的参与者，在把不同画家的作品混合起来辨认的交错练习中表现明显更好，但仍有78%的人认为，按画家分别集中练习的分块练习效果一样好，甚至更好[13]。还有一项经典研究发现，接受分散式培训的邮政工作人员表现更好，但他们的满意度反而低于那些把培训集中在少数几次长课中完成的人[14]。我们不仅会把“感觉自己在学习”误认为真正的学习，也会把费力的迹象误认为没有学到东西的信号。

让我们回到前面那个怎么也写不顺的研究目标页。当它迟迟写不出来时，这种卡住可能只是说明你累了；也可能说明你知道自己想说什么，只是一时找不到合适的表达；还有一种可能是，你其实并不知道自己到底想说什么，也就是说，你的推理中还有一个尚未直面的漏洞。在最后这种情况下，有价值的认知劳动正在发生。可是，这三种情形在当下的感受几乎一模一样：挫败、费力，还有那个怎么都写不对的句子。

人类本来就不喜欢挫败和费力。更糟的是，费力的感觉往往并不像是在学习，也不像是在加深理解。正因为如此，我才越来越觉得，想靠元认知监控来解决这个问题，几乎是不可能的：你可以在事后根据是否产生了新的洞见，判断一段费力过程是否有价值；但你很难在事前做出这种判断。而事前判断，恰恰发生在你决定要不要伸手去用AI的那个时刻。

一位经验丰富的科学家或许会反驳说，专业经验会带来某种特殊的元认知能力。但我并不同意。问题不在于我们对所在领域不够熟悉，而在于元认知本身的性质。你是神经科学专家，并不意味着你也擅长察觉自己的认知状态。我已经从事专业写作15年，却仍然一次次被自己的感觉误导。到这个阶段，问题并不是AI写得太差。它谈不上出色，我也不会把自己真正重视的工作交给它，但在很多场景里，它写得已经足够可用，而且速度足够快。正因为如此，当我真的使用它时，我就会不再注意自己跳过了什么。一段文字出现了，看起来还过得去，于是我就继续往下走。直到后来，有时是很久以后，我才意识到，自己其实从来没有真正把那个想法想透。文字是完成了，思考却没有完成。

任何试图保留那些有助于思考的困难的工具，在市场上恐怕都会输给那些直接消除困难的工具。

一个看似直接的解决办法，是重新设计这些工具。最近，我接触到一个叫作“认知强制策略”的概念。这个概念最早出现在20年前的医学决策领域[15]。当时，一位急诊医生提出，临床医生可以有意识地使用一些元认知干预，来打断可能导致诊断错误的认知偏差。2021年，哈佛大学的研究者把这一框架用于AI辅助决策，测试了一些重新引入“摩擦”的界面设计[16]。其中一种设计要求用户先给出自己的答案，然后才能看到AI的建议；另一种设计则是在显示推荐结果之前设置一段等待时间。

这些设计确实减少了人们对AI的过度依赖。但它们并不是通过帮助用户判断哪些困难有助于思考来发挥作用，而是通过创造一种通常更有帮助的使用条件。换句话说，即使用户自己并不能准确判断哪种困难值得保留，这些条件本身也能起到保护作用。问题在于，人们并不喜欢它们。人们喜欢的工具，未必最能帮助他们思考；真正能保护思考的设计，往往让人觉得不舒服。因此，任何试图保留有助于思考的困难的工具，在市场上恐怕都会输给那些直接消除困难的工具。

那么，面对这样一个问题，我们还能怎么办？它很难被人准确察觉，也很难通过研究彻底证明，更不会由市场自动解决。但科学仍然有一件有力的工具：共同体规范。科学不是孤立个体各自完成的事业，而是在实验室、院系、学术共同体中展开的实践。一个人很难长期抵抗便利，但一个共同体可以共同规定什么值得保留、什么不该轻易交出去。我认为，至少可以先从三件事做起：

第一，保护科研训练期。即便我们还不知道哪些困难最有价值，也有理由先做一个保守判断：在科研训练早期，更多困难可能都值得被保留下来。第一次写基金申请、第一篇论文、资格考试，这些环节都应该受到保护。原因不是AI辅助一定有害，而是如果我们判断错了，代价太高。

第二，给AI工具内置“摩擦”。不要指望每个人都能靠意志力抵抗便利。更现实的做法，是为科学家设计更合适的AI工具，让它们在关键节点迫使使用者先停一停、先自己想一想。与此同时，也需要建立相应的规范和激励，让人们愿意使用这类不那么“顺滑”、但更能保护思考的工具。

第三，让关于 AI 的讨论变得正常。现在，围绕 AI 使用存在两边的压力：使用 AI 的人可能觉得羞耻，拒绝使用 AI 的人也可能遭到评判。真正需要的，不是互相贴标签，而是在实验室和院系里更坦诚地讨论：哪些认知劳动已经交给了 AI，哪些仍然值得我们亲自保留。只有这样，科学共同体才可能更快形成一种集体性的、更成熟的判断。

那场学院会议上，我们最后还是投了票。我们决定禁止研究生在学位论文开题报告和毕业论文中使用 AI，尽管大家都知道，这条规定基本无法真正执行。重点并不是监督和查处，而是传递一种信号：我们的研究生项目相信，这类认知劳动是有价值的。在学生开始把它交给 AI 之前，我们希望他们至少亲自完成一次。即使规则本身并不强硬，文化规范依然可以很有力量。这不是解决方案，而是一场下注。这是一场带着谦逊的下注，因为我们知道自己仍有很多未知；也是一场严肃的下注，因为我们知道有些东西一旦失去，代价可能很高。

译者后记：这篇文章说出了我在学术写作中反复遇到的困惑：与AI协作，究竟是在提高表达效率，还是在悄悄缩短训练思考的过程？学术写作并不只是把已有想法写出来，它常常是在卡顿、犹豫和反复推翻中，逼迫我们发现概念的含混、论证的缺口和判断的边界。AI最危险的地方，或许不在于它替我们写得不好，而在于它写得足够顺，让我们误以为自己已经想清楚。使用AI之前，也许最该追问的是：我正在节省时间，还是正在跳过理解。

https://www.thetransmitter.org/from-bench-to-bot/betting-blind-on-ai-and-the-scientific-mind/

1. https://www.media.mit.edu/publications/your-brain-on-chatgpt/

2. https://doi.org/10.3102/0034654320914744

3. https://doi.org/10.1080/00461520.2018.1505515

4. https://doi.org/10.1186/s41235-024-00572-8

5. https://www.newyorker.com/books/page-turner/the-two-friends-who-changed-how-we-think-about-how-we-think

6. https://doi.org/10.1126/science.adw3000

7. https://doi.org/10.1016/j.jeap.2020.100895

8. https://doi.org/10.1371/journal.pbio.3002184

9. https://www.normaltech.ai/p/could-ai-slow-science

10. https://doi.org/10.1145/3706598.3713778

11. https://doi.org/10.3758/s13423-013-0442-z

12. https://doi.org/10.1073/pnas.1821936116

13. https://doi.org/10.1111/j.1467-9280.2008.02127.x

14. https://gwern.net/doc/psychology/spaced-repetition/1978-baddeley.pdf

15. https://doi.org/10.1067/mem.2003.22

16. https://doi.org/10.1145/3449287

关于追问nextquestion

天桥脑科学研究院旗下科学媒体，旨在以科学追问为纽带，深入探究人工智能与人类智能相互融合与促进，不断探索科学的边界。欢迎评论区留言，或后台留言“社群”即可加入社群与我们互动。您也可以在后台提问，我们将基于追问知识库为你做出智能回复哦~

关于天桥脑科学研究院

天桥脑科学研究院（Tianqiao and Chrissy Chen Institute）是由陈天桥、雒芊芊夫妇出资10亿美元创建的世界最大私人脑科学研究机构之一，围绕全球化、跨学科和青年科学家三大重点，支持脑科学研究，造福人类。

Chen Institute与华山医院、上海市精神卫生中心设立了应用神经技术前沿实验室、人工智能与精神健康前沿实验室；与加州理工学院合作成立了加州理工天桥神经科学研究院。

Chen Institute建成了支持脑科学和人工智能领域研究的生态系统，项目遍布欧美、亚洲和大洋洲，包括、、、科研型临床医生奖励计划、、科普视频媒体「大圆镜」等。