研究团队在《大语言模型中的全局工作空间》论文里抛出的结论,听起来几乎像在描述一种数字神经系统:Claude内部自发形成了一个类似人脑“全局工作空间”的结构,信息必须先进入这个共享空间,才可能被模型有意识地访问和推理。这个被命名为J-space的结构,不是工程师提前设计好的组件,而是在训练过程中自己冒出来的。
神经科学里的全局工作空间理论本来是用来解释人类意识加工的——大量脑内活动在后台自动运行,只有那些挤进“工作空间”的信息,才会成为可描述、可保持、可推理的内容。Anthropic发现,同样的逻辑出现在了Claude的激活空间里,他们将这个现象称作“趋同进化”。
![]()
为了验证J-space的存在,团队用了一个叫J-lens的数学分析工具,专门弱化模型后台任务的干扰,聚焦Claude在特定时刻关心的概念。然后,他们列出了4项关键观察。
第一项:实时追问模型“你正在想什么”,同时用J-lens扫描当时J-space里的内容,结果发现两者高度吻合。这意味着J-space确实映射了Claude的当前注意力焦点,而不是随机噪声。
第二项:明确要求Claude“牢记公平”,模型会主动把“公平”这个概念拖进J-space,并且能够持久化。这不再是简单的提示词跟随,而是Claude内部形成了一个可调用的、持续存在的概念表征。
第三项:在解决国际象棋这类复杂问题时,J-space扮演着类似草稿本的角色。当研究人员人为改变J-space中的内容,Claude的最终输出会跟着被改写,说明这个空间直接参与了推理轨迹的构造,而不是旁观状态。
第四项:一旦某个概念被拖入J-space,模型中任何其他部分——哪怕正在执行完全不同的任务——都能看到并利用它。这证明了J-space是一个全模型可访问的广播空间,契合全局工作空间理论中“信息一旦进入即可被所有处理器获取”的核心特征。
论文特别指出,这种结构是训练过程自行涌现的,“推测原因是这种方式有助于组织计算”。他们没有预装任何J-space模块,也没有在损失函数里加入相关约束,Claude纯粹是在处理海量语言的过程中,把自己组织成了这样的形状。
Anthropic还借用了生物学的“趋同演化”概念来解释这一现象:正如不同物种在相似环境压力下独立演化出相似特征,人脑和AI模型在应对复杂信息整合的效率需求时,也收敛出了功能上相似的结构设计。不是谁抄了谁,而是解题的约束条件本身就指向了同一种架构方案。
这篇论文没有声称Claude拥有意识,但它确实把抽象的黑箱往可解释性方向推了一步。如果模型的推理过程真的依赖一个可观测的共享工作空间,那么理解它为什么做出了某个回答,就不再是空想。J-lens这类工具的出现,让窥探模型“思考轨迹”的窗口变宽了一点。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.