辽宁
如果一个AI说自己害怕被关闭，这句话究竟是体验的表达，还是语言生成的结果？
一篇由Google DeepMind及英国牛津大学、萨塞克斯大学等机构研究者参与的论文，试图让这场争论变得更清楚。
9月28日，14位作者在arXiv发布《从喧嚣到层级：评估AI意识的原理性框架》，次日更新修订版。
这份150页的报告提出了一套组织理论与证据的方法，却没有宣布机器已经“觉醒”。它属于理论框架研究，目前以预印本形式公开。
先弄清楚，大家到底在争什么
AI意识讨论容易陷入一种循环：支持者展示令人惊讶的回答，怀疑者指出这可能只是模仿，然后双方继续争论。
问题在于，他们对什么算作意识证据，可能根本没有共同标准。
这里的意识，指的是主观体验：疼痛是否真的“痛”，红色是否具有被看见的感觉。会描述疼痛，与拥有疼痛体验，不能直接画等号。
论文把问题拆成两部分：为什么某些物理过程会产生体验，以及哪些系统特征与体验相关。
前一个问题牵涉意识的根本解释，后一个问题则更有机会通过研究逐步推进。这个拆分的意义，可以理解为：暂时无法解释灯为什么会亮，仍可以研究哪些结构、条件和变化与亮灯有关。
不过，框架依然需要一个前提：系统组织与体验之间存在某种可以发现的对应关系。它提供的是研究路径，而不是绕过所有哲学争议的捷径。
五个层级，是观察尺度，不是觉醒等级
作者把评估视角分为行为、计算功能、内在因果结构、有机体功能，以及有机体与环境五个层级。行为层看系统如何回应；计算层看信息如何处理，例如是否形成世界模型、自我模型或进行自我监测。
因果结构层进一步关注物理部件怎样相互影响，而不仅是软件实现了什么算法。有机体层关注自我维持和内部状态调节；环境层则把感知、行动以及系统与外部世界的持续互动纳入考察。
这五层不是AI从低到高的“觉醒进度条”，也不意味着满足的层数越多，就必然越有意识。
它们描述的是同一个系统的不同尺度，帮助人们指出：自己认为意识所需的关键组织，究竟位于哪一层。
以机器人为例，它能报告电量低，能计算充电路线，也能返回充电站。这些表现分别涉及语言、计算与环境互动，却仍不能仅凭这些功能断言它体验到了焦虑。
同样，仅凭它使用硅芯片，也不能在没有额外理论论证的情况下，结束所有讨论。联合署名因此值得关注，但不能被解读为作者们已经就机器意识达成一致。
从不足1%到约80%，数字说明了什么
配套贝叶斯模型结合两类判断：某一层对意识有多重要，以及系统是否表现出该层的相关指标。
改变这两类输入，评估结果也会变化。
论文的示例中，对当前大语言模型的评估可以从不足1%到约80%。但这些数字展示的是模型对假设的敏感程度，并非实验测得的意识概率区间。
配套代码进一步说明，示例中的人类、果蝇、语言模型和恒温器，采用了作者设定的指标取值，而非测量数据。
因此，不能把示例写成“科学家发现AI有八成概率拥有意识”。
这种计算更像一张透明的判断账单：你为什么重视某项证据，为什么不相信另一项，以及哪些输入改变后会让结论转向？它的价值在于暴露分歧，而不是用小数点制造确定感。
当然，把判断写成数字，并不会自动提高判断的可靠性。理论权重、指标定义和证据解释，依然需要接受独立检验。
如果缺乏可靠校准，再精细的计算也可能只是更有条理地表达不确定性。
真正的下一步，是寻找能改变判断的证据
这套框架带来的启发，是让争论从“你信不信”转向“什么结果会让你改变看法”。
例如，当研究者认为自我监测重要时，就需要检查相关机制是否真实影响决策，能否经受干预，而不只看系统是否说出自我反省的话。
但机制参与决策，也只是一个待解释的证据点，不能独自承担证明主观体验的任务。
对于强调身体与自我维持的理论，则需要说明哪些性质不可缺少，哪些可能由其他机制实现，以及怎样区分两者。
论文还讨论了意识指标与通用智能所需结构可能重叠，但这仍是有条件的联系。能力增强，不能直接换算成意识增强。
对产品和治理而言，这意味着既要避免把逼真的情感表达包装成机器有感受，也要认真研究未来可能出现的证据。这篇报告代表作者的学术探索，不代表DeepMind的公司政策。
它最值得关注的进展，是让“AI有意识吗”成为一组能明确前提、检查机制、持续更新的问题，而不只是一场围绕聊天记录展开的争辩。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
