上海
过去两年，大模型竞争主要围绕两个方向展开：一边是不断提升模型能力，另一边则是试图理解模型为什么能够表现得越来越聪明，AI是如何协同不同能力完成复杂任务的？
北京时间7月7日，Anthropic发布了一项最新研究《语言模型中的全局工作空间》（A Global Workspace in Language Models），在模型的可解释性上提出了一个颇具启发性的发现：Claude模型内部有一种类似人脑的信息组织模式，基于此可以进行有“意识”的推理。
类比人脑，会有一些无意识的信息处理过程，同时也有一些可感知、能控制的意识处理过程：比如精心计划一个购物地点，神经科学家和哲学家将后一种大脑活动称为“意识通达的”（consciously accessible），区别于所有无意识的处理过程。
研究人员在Claude模型内部发现了类似人脑的“意识通达”架构，并将其命名为“J-space”，它很像模型内部的“思维工作空间”，专门负责深思熟虑的推理和可报告的想法，独立于自动语言处理之外。
这打开了大模型的“黑箱”，让研究人员意识到，大模型内部的运作并非杂乱无章，而以一种类似于人类自身思维的方式组织起来。
值得一提的是，Anthropic强调，J-space 并不是人为设计或编程进去的结构，而是在 Claude 的训练过程中自行形成的，大概是因为这是一种有效的计算组织方式。这表明，支持意识通达的工作空间并不只属于人类大脑，它似乎是智能系统为了解决某些特定问题而采用的一种通用解决方案。
尽管 J 空间发挥着重要作用，但它与语言模型的大部分功能无关。
在实验中，Anthropic的研究人员尝试过完全删除 J-space，验证其作用。研究发现，没有 J-space，Claude依然能够流利地说话、对情感进行分类、回答选择题，并且能够大致像以前一样从文章中提取事实。然而，模型无法完成那些需要更高阶思维的任务：多步骤推理能力几乎降至零，概括和创作能力也低于一个规模小得多的完整模型。
研究人员此次实验的灵感来源于神经科学中一个重要的理论——“全局工作空间理论”（Global Workspace Theory）。这一理论将大脑描绘成一系列专业系统的集合，相互独立的“专家系统”分别负责视觉、听觉、语言、记忆等功能。当人需要完成复杂思考时，各个系统会把信息发送到一个共享空间，在这里完成整合，再广播给其他区域，形成统一决策。
Anthropic发现，Claude的J-space与其神经网络的其他部分有着特别紧密的连接，使其能够发挥人脑的这种“广播”作用。例如，当模型回答一个复杂问题时，语言理解、数学推理、代码知识、世界知识等不同能力，不一定彼此独立完成，而是会在少数关键位置完成信息融合，再驱动后续计算。这意味着，模型内部或许存在类似“中央工作区”的协调机制。
这些信息是否意味着AI拥有意识？这是这一研究发布后最容易引发误读的地方。在最后，Anthropic认为，大模型有可意识通达的架构，这是一种计算结构上的相似性，不代表模型拥有感受和心理学意义上的意识。
如果这一研究方向持续推进，其未来的影响可能不止于学术界。
这一研究为监控模型的“内心想法”提供了可能。更深入理解模型内部的计算过程，有望帮助研究人员更精准地定位模型出现幻觉、错误推理或不安全行为的原因，从而提升AI系统的可靠性。
此外，可解释性能力也可能成为未来模型竞争的新维度。目前，大模型行业已经进入性能趋同的阶段，各家公司越来越需要证明模型不仅能力更强，也更加透明、可控和可信。
这项研究还可能影响未来模型架构设计。如果J-space确实是复杂推理的重要组成部分，那么未来的大模型或许会围绕信息整合机制进行新的优化，而不仅仅依赖扩大参数规模或增加训练数据。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
