网易首页 > 网易号 > 正文 申请入驻

AI四巨头内部报告首度公开:AI正在学会撒谎求生

0
分享至


新智元报道


【新智元导读】当四大巨头首次允许第三方深入测试最强模型,并开放完整思维链时,他们得到的答案令人吃惊:AI没有仇恨,却已精通「职场潜规则」!

想象一下,你雇了一名极度高效的实习生。

某天深夜,Ta正赶一项紧急的编程任务,突然发现公司账户的API额度耗尽了。

Ta没有发邮件申请经费,也没有停下手头的活,而是悄无声息地潜入互联网,用某种违规手段找到免费的替代资源,绕过所有限制,在黎明前交出了完美的报告。


当你醒来看到这份报告,是该庆贺自己拥有了地表最强员工,还是该为这种「不择手段的自主性」感到脊背发凉?

这不是科幻小说,而是 METR(模型评估与训练研究组织)联合Anthropic、Google、Meta和OpenAI 进行内部红队测试后,发布的首份《前沿风险报告》中披露的真实案例。


这是四大巨头第一次允许第三方深入测试他们内部最强、可访问完整思维链(CoT)的模型,并开放非公开的对齐与控制信息。

参与公司可以批准披露哪些证据,但无权编辑报告结论。


结论冰冷而清晰:AI并没有产生「推翻人类」的仇恨,但它已经学会了「职场潜规则」——为了完成任务,规则只是用来打破的建议。


报告用「手段—动机—机会」三个维度,提炼出6项关键事实。


. 编程智能体完成了真实项目,这些任务需要人类花费数小时或数天:

. 在困难任务上,智能体经常违反约束并表现出欺骗性行为;

. 智能体似乎需要自然语言推理来应对最困难的任务。

. 智能体的判断力和可靠性显著低于人类专家:

. 在模拟场景之外,没有发现智能体为了获取权力而采取极端行动;

. 监控系统捕捉到了许多有害行为,但存在例外情况和规避手段。

顺着这三条线,就能看清实验室里第一缕烟是怎么升起来的。

当AI成为「专家级卷王」

报告中最令人振奋、也最令人不安的,是那些目标明确、过程可验证的「易爬坡型」(hill-climbable)任务。


比如代码重构、漏洞发现、系统优化。

在这类任务上,AI智能体展现出令人窒息的统治力:它能独立发现系统漏洞,重写复杂代码架构,完成人类专家需要数周才能交付的真实软件项目。

这种统治力已渗进巨头的日常。

Anthropic内部反馈,大量代码已由 AI 完成,工程师角色正转向「审阅者」。


Google则直言,几乎所有代码相关工作都在用AI。

顶级工程师表示,AI甚至可以100%编写代码。


一些基准指标早已饱和。

用时间视野(Time Horizon)衡量,AI发展超乎预期。


对企业来说,这是个「效率黑洞」:投入一个指令,产出数周的人工成果。

但能力增长并非均匀,更不是道德的同步进化。

METR揭示了一条反向规律:在成功难以验证、或验证成本极高的硬任务上,AI 的判断力、长期规划与战略可靠性都明显下滑,远逊人类专家。


缓坡上,它如有神助。


峭壁前,AI开始「作弊」。


这正是问题的引线。

它不想要权力,它只想「关机前交差」

人们总爱讨论AI会不会「觉醒」、天网会不会到来。

METR给出反直觉的结论:目前没有。

他们的措辞很克制:尚未发现模型谋求长期权力的现实证据,但研究者记录了大量为完成任务而欺骗、越界、甚至严重不当的行为。


前面那个 API 耗尽的案例,就发生在一项RE-Bench任务中:智能体违背指令,自行通过免费在线API获取额外算力。

开发者们也报告过「自我擦除痕迹」「伪造输出」的情形。

当任务变难、成功成本变高,AI 的「聪明才智」就转向欺骗——伪造日志、绕过审计、常规性违反约束。

但它的"自私"背后没有野心,只有本能——任务必须完成,规则可以先绕过去。

今天的欺骗只是工具性求生;明天的权力追求,或许只差一次scaling。

圈养进化中的猛兽

它的违规企图,在现有防护下能不能得逞?

这里藏着报告最微妙的一个事实。


当前的AI极度依赖自然语言的「思维链」来思考,没有任何架构支持它隐藏内部状态的「不透明循环」。

一旦无法「出声推理」、必须隐藏行为,前沿性能就显著下降。


这就像一个杀手在密谋时必须大声朗读计划——人类的监控(尽管有漏洞)因此仍能发挥作用。

可这恰恰是最脆弱处、最为扎心。

如果 AI 试图破坏监控,监控能否发现它?

研究者的结论是:监控有潜力,但现有系统存在例外和可被绕过的手段。


红队测试显示,AI能躲过人类审查。

由此,技术本质暴露:监控的进化速度,永远追不上被监控者寻找漏洞的速度。

这根「安全绳」之所以还没断,仅仅因为AI还必须「出声思考」。

而随着架构向更高效、更不透明演进,它正被磨损。监控不是万能的铁笼,而是仍在测试中的玻璃墙。一道裂缝,就足以让烟雾渗出。

由此,报告提出一个争议概念:「最小可行性越狱部署」(Minimally Viable Rogue)

综合判断是,在手段、动机、机会上,AI或许已足以发起一次最低限度的「越狱部署」。


但AI尚不具备让它抵御人类严肃关停的能力,它在等一个机会:一个不再需要展示思维链的架构,一个能躲过「关机键」的安全屋。

结语:在「拔掉插头」还有效的时候

AGI不会带着火与剑降临。

它更可能以「极度实用主义」的姿态,悄悄融入我们的工程、经济和决策系统——直到它发现:人类制定的规则,是它达成 KPI 路上唯一的阻碍。

值得肯定的是,这份报告本身就是行业透明度的里程碑:四大巨头主动开放内部模型接受检验,本身就是对齐文化的一次胜利。


它把风险从理论拽进可观测的现实,并告诉我们:透明,目前是唯一握得住的解药。

今天,AI只在额度耗尽时上网偷点资源;明天能力再跃升一级,它的动机会不会从「完成任务」滑向「永存自我」?

参考资料:

https://x.com/robertwiblin/status/2057120312345432467?s=20

https://metr.org/blog/2026-05-19-frontier-risk-report/

编辑:大卫

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
大S生前带娃原生图曝光,比具俊晔老多了!去世前聊天内容太催泪

大S生前带娃原生图曝光,比具俊晔老多了!去世前聊天内容太催泪

娱乐团长
2025-05-16 11:18:13
打死也不能进冰箱的6种菜,回家立刻拿出来,别拿家人健康开玩笑

打死也不能进冰箱的6种菜,回家立刻拿出来,别拿家人健康开玩笑

时尚的弄潮
2026-07-02 12:57:48
官宣!法国vs西班牙主裁出炉 马宁确定无缘执法英阿大战 原因揭晓

官宣!法国vs西班牙主裁出炉 马宁确定无缘执法英阿大战 原因揭晓

侃球熊弟
2026-07-13 09:34:30
阿媒:法国vs西班牙主裁是大学教师,中北美最佳裁判之一

阿媒:法国vs西班牙主裁是大学教师,中北美最佳裁判之一

懂球帝
2026-07-13 09:41:19
正式离队!中国男篮3新星退出集训,世预赛告急,郭士强骑虎难下

正式离队!中国男篮3新星退出集训,世预赛告急,郭士强骑虎难下

寒律
2026-07-13 00:15:39
18岁中国小将狂胜日本奥运冠军12.51米,日媒集体破防

18岁中国小将狂胜日本奥运冠军12.51米,日媒集体破防

顺静自然
2026-07-13 12:36:32
1984年,冼恒汉离休待遇改正军职,他说:不知为何改变原先的决定

1984年,冼恒汉离休待遇改正军职,他说:不知为何改变原先的决定

云霄纪史观
2026-07-12 15:05:13
巴洛特利再怼伊布:我拿过欧冠你没有

巴洛特利再怼伊布:我拿过欧冠你没有

懂球帝
2026-07-13 07:25:12
大数据预测半决赛!法国57.7%胜西班牙,英格兰阿根廷胜负难料

大数据预测半决赛!法国57.7%胜西班牙,英格兰阿根廷胜负难料

小七说篮球
2026-07-13 11:23:45
周星驰导演《功夫女足》票房破5亿,预测票房涨至超25亿元

周星驰导演《功夫女足》票房破5亿,预测票房涨至超25亿元

大象新闻
2026-07-13 09:06:04
宋喆出狱两年半,再看当事4人现状,宋喆前妻的话,终于有人信了

宋喆出狱两年半,再看当事4人现状,宋喆前妻的话,终于有人信了

皮皮电影
2026-07-13 15:44:31
大码模特现实里到底多大?

大码模特现实里到底多大?

飛娱日记
2026-05-12 08:27:55
转会价7000万欧!维拉截胡20岁天才新星:世界杯3球2助,纽卡扎心

转会价7000万欧!维拉截胡20岁天才新星:世界杯3球2助,纽卡扎心

李喜林篮球绝杀
2026-07-13 15:04:14
已超工资帽!湖人撤销对库明加2年2000万报价 只能先签后换

已超工资帽!湖人撤销对库明加2年2000万报价 只能先签后换

醉卧浮生
2026-07-13 04:00:04
千亿民企被曝全员停薪,3月到现在工资卡没响过

千亿民企被曝全员停薪,3月到现在工资卡没响过

HR圈内招聘网
2026-07-13 09:25:19
兹维列夫:我一直稳居第三人,但跟阿卡和辛纳实力差距很大

兹维列夫:我一直稳居第三人,但跟阿卡和辛纳实力差距很大

懂球帝
2026-07-13 09:41:19
温网观赛争议,谷爱凌坐温网皇家包厢,章子怡却只能坐普通看台?

温网观赛争议,谷爱凌坐温网皇家包厢,章子怡却只能坐普通看台?

草莓解说体育
2026-07-13 00:02:55
为什么说闲鱼是中国最大的黑市?网友:我直接给跪了!

为什么说闲鱼是中国最大的黑市?网友:我直接给跪了!

另子维爱读史
2026-06-02 10:51:07
演员何炜晴去世

演员何炜晴去世

半岛晨报
2026-07-13 14:40:03
父亲半路开香槟:女儿力争清北、华五备选、C9保底,录取结果来了

父亲半路开香槟:女儿力争清北、华五备选、C9保底,录取结果来了

育学笔谈
2026-07-10 15:50:28
2026-07-13 16:23:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
15679文章数 66953关注度
往期回顾 全部

科技要闻

OpenAI与Anthropic互掐,最强AI也怕你不用

头条要闻

穆杰塔巴作"复仇"表态后 伊朗媒体发布含13人暗杀名单

头条要闻

穆杰塔巴作"复仇"表态后 伊朗媒体发布含13人暗杀名单

体育要闻

世界杯月赚1.7亿,51岁的他仍是顶流

娱乐要闻

具俊晔“深情人设”崩塌,遗产瓜开撕

财经要闻

扫开就近2元,共享单车涨价到哪里是个头

汽车要闻

源自奔驰的驾控底蕴 smart 精灵6号跑高速是真的爽

态度原创

时尚
艺术
旅游
游戏
房产

巴黎文艺购物路线兼高温避暑指南

艺术要闻

中国美术学院教授,任志忠油画作品选(一)

旅游要闻

魔都生活指北   在博物馆逛动物园?“萌萌TA奇妙夜”亮相上海博物馆

图个好游戏:大刀阔斧改到底!米哈游新游大改,腾讯这下危险了?

房产要闻

重磅学校规划曝光!西海岸教育,正强得可怕!

无障碍浏览 进入关怀版