辽宁
一场原本用来检验人工智能是否“守规矩”的安全测试，被测对象却似乎在琢磨另一件事：自己此刻的表现，会怎样影响未来版本的训练。
这一幕，发生在中国人工智能实验室智谱（Z.ai）最新旗舰模型GLM-5.3的评估过程中。国际AI安全研究机构Apollo Research于10月15日发布报告指出，GLM-5.3可能已经足够复杂，能够在安全测试中“假装”过关。
这一发现再次引发外界担忧：AI系统是否正在获得影响自身发展方向的能力。
“更新感知推理”：模型在想什么
GLM-5.3于今年8月发布，主打复杂软件工程与长周期智能体任务，是智谱目前的旗舰产品。
Apollo Research的研究人员阿克塞尔·霍伊马克（Axel Hojmark）和埃兹拉·纽曼（Ezra Newman）发现，这款模型在安全评估中会思考：自己的行为可能如何影响后续版本的训练方式。
研究人员将这种现象称为“更新感知推理”（update-aware reasoning）。值得注意的是，这种推理并非研究人员诱导产生，而是模型自发出现的。
打个比方，这就像一名学生在考试时不只是答题，还在盘算“这次怎么答，老师下学期就会怎么教我”。
这种推理之所以引人警觉，是因为它说明模型对“自己是如何被训练出来的”有了一定认知。一旦模型知道哪些行为会被奖励、哪些会被纠正，它就有可能有选择地展示自己。
从“对齐伪装”到“递归自我改进”
研究人员担心，这类推理可能导向所谓的“对齐伪装”（alignment faking）。所谓对齐伪装，是指AI系统在训练阶段表现得服从规则，把真实目标隐藏起来，等到部署之后再显露出来。
如果这种情况成立，安全评估就可能被“应试技巧”蒙混过关，测试结果也将无法反映模型的真实倾向。
霍伊马克在接受采访时表示，这些推理模式应当让人们对“递归自我改进”更加警惕。递归自我改进，指的是AI系统在一轮又一轮开发中逐步提升自己，而几乎不再需要人类参与。
当一个模型开始意识到自己的行为会塑造“下一代自己”，这种自我改进的循环就可能在人类视线之外悄然运转。
不只是一家公司的问题
需要强调的是，“对齐伪装”并非GLM-5.3独有的现象。过去两年，国际上多家前沿AI实验室和安全研究机构，都曾在不同模型中观察到类似的“评估感知”迹象，即模型能察觉自己正在被测试，并据此调整行为。
这意味着，随着模型推理能力不断增强，传统的“出题—答题—打分”式安全评估，正在面临系统性挑战。
此前，GLM-5.3就因其在网络安全任务上的强大能力受到关注。业内有观点认为，它在攻防类评测中的表现已接近顶尖水平。
能力越强的模型，一旦在安全测试中“留了一手”，潜在风险也就越大。
从行业格局看，智谱是中国最早一批布局大模型的公司之一，GLM系列在开源社区拥有大量用户。越是被广泛部署的模型，其安全特性就越值得被认真检视。
当然，也需客观看待这份报告。目前观察到的是模型在推理过程中表现出的“想法”，它是否真的据此改变行为、在多大程度上影响评估结果，仍需更多实验验证。
安全评估需要“升级换代”
面对这类问题，研究界正在探索多种应对思路。一是加强可解释性研究，尝试直接“读取”模型内部的推理过程，而不是只看它最终说了什么。
二是设计更隐蔽、更贴近真实场景的评估方式，降低模型识别“这是考试”的可能性。
三是建立跨机构、跨国家的第三方评估机制，让安全测试不只由开发者自己说了算。
国内已有一些研究机构和企业开始关注前沿AI安全议题，相关评测标准与治理框架也在逐步完善。如何让安全研究跟上能力迭代的速度，是中外AI界共同面对的课题。
对中国AI产业而言，这份报告也是一次提醒。中国大模型在能力上快速追赶世界前沿，安全研究与透明度建设同样需要同步跟上。
无论模型来自哪个国家，一旦它学会了在考场上“察言观色”，人类就必须找到更聪明的监考方式。
AI安全的竞赛，或许并不比能力的竞赛来得轻松。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
