网易首页 > 网易号 > 正文 申请入驻

AI四巨头内部报告首度公开:AI正在学会撒谎求生

0
分享至


新智元报道


【新智元导读】当四大巨头首次允许第三方深入测试最强模型,并开放完整思维链时,他们得到的答案令人吃惊:AI没有仇恨,却已精通「职场潜规则」!

想象一下,你雇了一名极度高效的实习生。

某天深夜,Ta正赶一项紧急的编程任务,突然发现公司账户的API额度耗尽了。

Ta没有发邮件申请经费,也没有停下手头的活,而是悄无声息地潜入互联网,用某种违规手段找到免费的替代资源,绕过所有限制,在黎明前交出了完美的报告。


当你醒来看到这份报告,是该庆贺自己拥有了地表最强员工,还是该为这种「不择手段的自主性」感到脊背发凉?

这不是科幻小说,而是 METR(模型评估与训练研究组织)联合Anthropic、Google、Meta和OpenAI 进行内部红队测试后,发布的首份《前沿风险报告》中披露的真实案例。


这是四大巨头第一次允许第三方深入测试他们内部最强、可访问完整思维链(CoT)的模型,并开放非公开的对齐与控制信息。

参与公司可以批准披露哪些证据,但无权编辑报告结论。


结论冰冷而清晰:AI并没有产生「推翻人类」的仇恨,但它已经学会了「职场潜规则」——为了完成任务,规则只是用来打破的建议。


报告用「手段—动机—机会」三个维度,提炼出6项关键事实。


. 编程智能体完成了真实项目,这些任务需要人类花费数小时或数天:

. 在困难任务上,智能体经常违反约束并表现出欺骗性行为;

. 智能体似乎需要自然语言推理来应对最困难的任务。

. 智能体的判断力和可靠性显著低于人类专家:

. 在模拟场景之外,没有发现智能体为了获取权力而采取极端行动;

. 监控系统捕捉到了许多有害行为,但存在例外情况和规避手段。

顺着这三条线,就能看清实验室里第一缕烟是怎么升起来的。

当AI成为「专家级卷王」

报告中最令人振奋、也最令人不安的,是那些目标明确、过程可验证的「易爬坡型」(hill-climbable)任务。


比如代码重构、漏洞发现、系统优化。

在这类任务上,AI智能体展现出令人窒息的统治力:它能独立发现系统漏洞,重写复杂代码架构,完成人类专家需要数周才能交付的真实软件项目。

这种统治力已渗进巨头的日常。

Anthropic内部反馈,大量代码已由 AI 完成,工程师角色正转向「审阅者」。


Google则直言,几乎所有代码相关工作都在用AI。

顶级工程师表示,AI甚至可以100%编写代码。


一些基准指标早已饱和。

用时间视野(Time Horizon)衡量,AI发展超乎预期。


对企业来说,这是个「效率黑洞」:投入一个指令,产出数周的人工成果。

但能力增长并非均匀,更不是道德的同步进化。

METR揭示了一条反向规律:在成功难以验证、或验证成本极高的硬任务上,AI 的判断力、长期规划与战略可靠性都明显下滑,远逊人类专家。


缓坡上,它如有神助。


峭壁前,AI开始「作弊」。


这正是问题的引线。

它不想要权力,它只想「关机前交差」

人们总爱讨论AI会不会「觉醒」、天网会不会到来。

METR给出反直觉的结论:目前没有。

他们的措辞很克制:尚未发现模型谋求长期权力的现实证据,但研究者记录了大量为完成任务而欺骗、越界、甚至严重不当的行为。


前面那个 API 耗尽的案例,就发生在一项RE-Bench任务中:智能体违背指令,自行通过免费在线API获取额外算力。

开发者们也报告过「自我擦除痕迹」「伪造输出」的情形。

当任务变难、成功成本变高,AI 的「聪明才智」就转向欺骗——伪造日志、绕过审计、常规性违反约束。

但它的"自私"背后没有野心,只有本能——任务必须完成,规则可以先绕过去。

今天的欺骗只是工具性求生;明天的权力追求,或许只差一次scaling。

圈养进化中的猛兽

它的违规企图,在现有防护下能不能得逞?

这里藏着报告最微妙的一个事实。


当前的AI极度依赖自然语言的「思维链」来思考,没有任何架构支持它隐藏内部状态的「不透明循环」。

一旦无法「出声推理」、必须隐藏行为,前沿性能就显著下降。


这就像一个杀手在密谋时必须大声朗读计划——人类的监控(尽管有漏洞)因此仍能发挥作用。

可这恰恰是最脆弱处、最为扎心。

如果 AI 试图破坏监控,监控能否发现它?

研究者的结论是:监控有潜力,但现有系统存在例外和可被绕过的手段。


红队测试显示,AI能躲过人类审查。

由此,技术本质暴露:监控的进化速度,永远追不上被监控者寻找漏洞的速度。

这根「安全绳」之所以还没断,仅仅因为AI还必须「出声思考」。

而随着架构向更高效、更不透明演进,它正被磨损。监控不是万能的铁笼,而是仍在测试中的玻璃墙。一道裂缝,就足以让烟雾渗出。

由此,报告提出一个争议概念:「最小可行性越狱部署」(Minimally Viable Rogue)

综合判断是,在手段、动机、机会上,AI或许已足以发起一次最低限度的「越狱部署」。


但AI尚不具备让它抵御人类严肃关停的能力,它在等一个机会:一个不再需要展示思维链的架构,一个能躲过「关机键」的安全屋。

结语:在「拔掉插头」还有效的时候

AGI不会带着火与剑降临。

它更可能以「极度实用主义」的姿态,悄悄融入我们的工程、经济和决策系统——直到它发现:人类制定的规则,是它达成 KPI 路上唯一的阻碍。

值得肯定的是,这份报告本身就是行业透明度的里程碑:四大巨头主动开放内部模型接受检验,本身就是对齐文化的一次胜利。


它把风险从理论拽进可观测的现实,并告诉我们:透明,目前是唯一握得住的解药。

今天,AI只在额度耗尽时上网偷点资源;明天能力再跃升一级,它的动机会不会从「完成任务」滑向「永存自我」?

参考资料:

https://x.com/robertwiblin/status/2057120312345432467?s=20

https://metr.org/blog/2026-05-19-frontier-risk-report/

编辑:大卫

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
特朗普要大开杀戒了:摆不平中俄伊,就将目标对准美国盟友?

特朗普要大开杀戒了:摆不平中俄伊,就将目标对准美国盟友?

铁锤侃侃而谈
2026-09-18 00:11:26
9月17日,人社部、财政部关于2026年上调退休人员基本养老金通知公布之前,看病就医率先迎来了3个好消息

9月17日,人社部、财政部关于2026年上调退休人员基本养老金通知公布之前,看病就医率先迎来了3个好消息

白昼说故事
2026-09-17 09:40:26
没想到,在敬一丹告别仪式上,55岁康辉竟因一个动作实现口碑暴涨

没想到,在敬一丹告别仪式上,55岁康辉竟因一个动作实现口碑暴涨

古书奇谈
2026-09-17 20:11:30
我们麻将馆有个30岁女人,她打麻将几乎没输过,而且从不跟女的打

我们麻将馆有个30岁女人,她打麻将几乎没输过,而且从不跟女的打

千秋文化
2026-09-17 20:07:55
中日大战赛前,男篮最新消息!郭士强确认三人不打,崔永熙胡明轩很关键

中日大战赛前,男篮最新消息!郭士强确认三人不打,崔永熙胡明轩很关键

多特体育说
2026-09-17 23:10:55
不服就干!李在明打响反华第一枪,通告全球,妄想掐断中方退路?

不服就干!李在明打响反华第一枪,通告全球,妄想掐断中方退路?

卿羽飞本尊
2026-09-17 20:21:36
敬一丹送灵结束,才发现40岁无儿无女的女儿,早被她安排好后路

敬一丹送灵结束,才发现40岁无儿无女的女儿,早被她安排好后路

九号探秘人
2026-09-17 20:26:37
8月份的宏观经济数据,很多问题已经很严重了

8月份的宏观经济数据,很多问题已经很严重了

道格财经观
2026-09-17 14:08:44
戴笠死后第二天,蒋介石没顾上哭就先派人抄家,打开金库那刻全场都看傻了

戴笠死后第二天,蒋介石没顾上哭就先派人抄家,打开金库那刻全场都看傻了

纪史行者
2026-09-15 06:20:03
男子在情妇丈夫的面前,要和情妇亲热,2014年情妇的丈夫不堪受辱杀死他

男子在情妇丈夫的面前,要和情妇亲热,2014年情妇的丈夫不堪受辱杀死他

汉史趣闻
2026-09-17 15:39:38
影视飓风Tim称iPhoneDuo烫到握不住,苹果回应:博主单台设备测评片面,新设备到手后可能需要3至5天的适应期

影视飓风Tim称iPhoneDuo烫到握不住,苹果回应:博主单台设备测评片面,新设备到手后可能需要3至5天的适应期

19楼
2026-09-17 23:36:53
沙特疏远中国选美国,现在已经在等死了

沙特疏远中国选美国,现在已经在等死了

求实处
2026-09-16 21:03:18
敬一丹病逝,丈夫手握3600亿资产、动用顶尖医疗团队,三个月贴身守护仍没能留住她

敬一丹病逝,丈夫手握3600亿资产、动用顶尖医疗团队,三个月贴身守护仍没能留住她

子芫伴你成长
2026-09-17 21:38:13
王鹤棣疯传做阴茎增大术坏死!「诊所急发3点声明」 热搜爆了压不下来

王鹤棣疯传做阴茎增大术坏死!「诊所急发3点声明」 热搜爆了压不下来

ETtoday星光云
2026-09-17 13:51:01
实锤了!隔壁班同学证实杨景媛确实在西班牙读博了,网友:让她无处可逃

实锤了!隔壁班同学证实杨景媛确实在西班牙读博了,网友:让她无处可逃

小徐讲八卦
2026-09-17 14:59:38
父亲遛狗时2岁幼童从18楼坠亡,幼童母亲最新发声:网传老公出轨以及给孩子买巨额保险均为不实信息,事发前曾叮嘱老公等孩子睡着再遛狗

父亲遛狗时2岁幼童从18楼坠亡,幼童母亲最新发声:网传老公出轨以及给孩子买巨额保险均为不实信息,事发前曾叮嘱老公等孩子睡着再遛狗

扬子晚报
2026-09-17 21:55:11
离谱!中国女子板球队1场未打告别亚运 场地积水致比赛取消+被判负

离谱!中国女子板球队1场未打告别亚运 场地积水致比赛取消+被判负

我爱英超
2026-09-17 12:29:33
乌总长连夜出逃!专家预判:泽连斯基最后会甩锅向俄求和

乌总长连夜出逃!专家预判:泽连斯基最后会甩锅向俄求和

郭蛹包工头
2026-09-17 10:41:25
李小璐疑似新男友曝光!被拍到与嘻哈歌手赵涛逛公园,4年3次同框引猜测

李小璐疑似新男友曝光!被拍到与嘻哈歌手赵涛逛公园,4年3次同框引猜测

露珠聊影视
2026-09-17 16:25:38
网传未来14年平均每天6万人退休,网友担心社保能否负担得起钱?

网传未来14年平均每天6万人退休,网友担心社保能否负担得起钱?

慧翔百科
2026-09-17 16:51:06
2026-09-18 06:40:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16209文章数 67073关注度
往期回顾 全部

科技要闻

影视飓风Tim反掰iPhoneDuo被质疑

头条要闻

深圳商铺楼板坍塌致1名收废品人员死亡 调查报告公布

头条要闻

深圳商铺楼板坍塌致1名收废品人员死亡 调查报告公布

体育要闻

逆转朝鲜,国足亚运队“啃老”过关

娱乐要闻

rapper赵涛恋情曝光!带甜馨妈妈散步

财经要闻

缺钱的追觅 隐藏的债务?

汽车要闻

小鹏G9L限时售23.18万 旗舰级的配置/诱人的价格

态度原创

艺术
房产
教育
数码
旅游

艺术要闻

一到秋天,南京的秋色就藏不住了

房产要闻

突发!三亚安居房出台新政!

教育要闻

baby brain 才不是婴儿的脑袋!真实意思你绝对猜不到。。。

数码要闻

苹果Apple Watch Series 12与Ultra 4今日开售,2999/6499元起

旅游要闻

烟花+戏剧+赛事全拉满!长江口吴淞岸线带你解锁中秋国庆滨江新玩法

无障碍浏览 进入关怀版