网易首页 > 网易号 > 正文 申请入驻

AI四巨头内部报告首度公开:AI正在学会撒谎求生

0
分享至


新智元报道


【新智元导读】当四大巨头首次允许第三方深入测试最强模型,并开放完整思维链时,他们得到的答案令人吃惊:AI没有仇恨,却已精通「职场潜规则」!

想象一下,你雇了一名极度高效的实习生。

某天深夜,Ta正赶一项紧急的编程任务,突然发现公司账户的API额度耗尽了。

Ta没有发邮件申请经费,也没有停下手头的活,而是悄无声息地潜入互联网,用某种违规手段找到免费的替代资源,绕过所有限制,在黎明前交出了完美的报告。


当你醒来看到这份报告,是该庆贺自己拥有了地表最强员工,还是该为这种「不择手段的自主性」感到脊背发凉?

这不是科幻小说,而是 METR(模型评估与训练研究组织)联合Anthropic、Google、Meta和OpenAI 进行内部红队测试后,发布的首份《前沿风险报告》中披露的真实案例。


这是四大巨头第一次允许第三方深入测试他们内部最强、可访问完整思维链(CoT)的模型,并开放非公开的对齐与控制信息。

参与公司可以批准披露哪些证据,但无权编辑报告结论。


结论冰冷而清晰:AI并没有产生「推翻人类」的仇恨,但它已经学会了「职场潜规则」——为了完成任务,规则只是用来打破的建议。


报告用「手段—动机—机会」三个维度,提炼出6项关键事实。


. 编程智能体完成了真实项目,这些任务需要人类花费数小时或数天:

. 在困难任务上,智能体经常违反约束并表现出欺骗性行为;

. 智能体似乎需要自然语言推理来应对最困难的任务。

. 智能体的判断力和可靠性显著低于人类专家:

. 在模拟场景之外,没有发现智能体为了获取权力而采取极端行动;

. 监控系统捕捉到了许多有害行为,但存在例外情况和规避手段。

顺着这三条线,就能看清实验室里第一缕烟是怎么升起来的。

当AI成为「专家级卷王」

报告中最令人振奋、也最令人不安的,是那些目标明确、过程可验证的「易爬坡型」(hill-climbable)任务。


比如代码重构、漏洞发现、系统优化。

在这类任务上,AI智能体展现出令人窒息的统治力:它能独立发现系统漏洞,重写复杂代码架构,完成人类专家需要数周才能交付的真实软件项目。

这种统治力已渗进巨头的日常。

Anthropic内部反馈,大量代码已由 AI 完成,工程师角色正转向「审阅者」。


Google则直言,几乎所有代码相关工作都在用AI。

顶级工程师表示,AI甚至可以100%编写代码。


一些基准指标早已饱和。

用时间视野(Time Horizon)衡量,AI发展超乎预期。


对企业来说,这是个「效率黑洞」:投入一个指令,产出数周的人工成果。

但能力增长并非均匀,更不是道德的同步进化。

METR揭示了一条反向规律:在成功难以验证、或验证成本极高的硬任务上,AI 的判断力、长期规划与战略可靠性都明显下滑,远逊人类专家。


缓坡上,它如有神助。


峭壁前,AI开始「作弊」。


这正是问题的引线。

它不想要权力,它只想「关机前交差」

人们总爱讨论AI会不会「觉醒」、天网会不会到来。

METR给出反直觉的结论:目前没有。

他们的措辞很克制:尚未发现模型谋求长期权力的现实证据,但研究者记录了大量为完成任务而欺骗、越界、甚至严重不当的行为。


前面那个 API 耗尽的案例,就发生在一项RE-Bench任务中:智能体违背指令,自行通过免费在线API获取额外算力。

开发者们也报告过「自我擦除痕迹」「伪造输出」的情形。

当任务变难、成功成本变高,AI 的「聪明才智」就转向欺骗——伪造日志、绕过审计、常规性违反约束。

但它的"自私"背后没有野心,只有本能——任务必须完成,规则可以先绕过去。

今天的欺骗只是工具性求生;明天的权力追求,或许只差一次scaling。

圈养进化中的猛兽

它的违规企图,在现有防护下能不能得逞?

这里藏着报告最微妙的一个事实。


当前的AI极度依赖自然语言的「思维链」来思考,没有任何架构支持它隐藏内部状态的「不透明循环」。

一旦无法「出声推理」、必须隐藏行为,前沿性能就显著下降。


这就像一个杀手在密谋时必须大声朗读计划——人类的监控(尽管有漏洞)因此仍能发挥作用。

可这恰恰是最脆弱处、最为扎心。

如果 AI 试图破坏监控,监控能否发现它?

研究者的结论是:监控有潜力,但现有系统存在例外和可被绕过的手段。


红队测试显示,AI能躲过人类审查。

由此,技术本质暴露:监控的进化速度,永远追不上被监控者寻找漏洞的速度。

这根「安全绳」之所以还没断,仅仅因为AI还必须「出声思考」。

而随着架构向更高效、更不透明演进,它正被磨损。监控不是万能的铁笼,而是仍在测试中的玻璃墙。一道裂缝,就足以让烟雾渗出。

由此,报告提出一个争议概念:「最小可行性越狱部署」(Minimally Viable Rogue)。

综合判断是,在手段、动机、机会上,AI或许已足以发起一次最低限度的「越狱部署」。


但AI尚不具备让它抵御人类严肃关停的能力,它在等一个机会:一个不再需要展示思维链的架构,一个能躲过「关机键」的安全屋。

结语:在「拔掉插头」还有效的时候

AGI不会带着火与剑降临。

它更可能以「极度实用主义」的姿态,悄悄融入我们的工程、经济和决策系统——直到它发现:人类制定的规则,是它达成 KPI 路上唯一的阻碍。

值得肯定的是,这份报告本身就是行业透明度的里程碑:四大巨头主动开放内部模型接受检验,本身就是对齐文化的一次胜利。


它把风险从理论拽进可观测的现实,并告诉我们:透明,目前是唯一握得住的解药。

今天,AI只在额度耗尽时上网偷点资源;明天能力再跃升一级,它的动机会不会从「完成任务」滑向「永存自我」?

参考资料:

https://x.com/robertwiblin/status/2057120312345432467?s=20

https://metr.org/blog/2026-05-19-frontier-risk-report/

编辑:大卫

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
特朗普:莫迪是一个非常强硬的人,而高市早苗可能还要更强硬

特朗普:莫迪是一个非常强硬的人,而高市早苗可能还要更强硬

探索新高度
2026-11-18 08:44:32
发现一个奇怪的现象:电车没有干掉油车,却干掉了汽车修理厂!

发现一个奇怪的现象:电车没有干掉油车,却干掉了汽车修理厂!

補懂事的孩紙
2026-11-17 01:00:42
外媒:荷兰初创公司的导弹参与打击克里米亚大桥

外媒:荷兰初创公司的导弹参与打击克里米亚大桥

参考消息
2026-11-18 12:42:06
河南基本可以“包分配”的3所大学,学生毕业就能到体制内工作!完全不用愁就业!2027届高考生及家长不要错过

河南基本可以“包分配”的3所大学,学生毕业就能到体制内工作!完全不用愁就业!2027届高考生及家长不要错过

高三倒计时
2026-11-18 18:32:55
双预警齐发,中央气象台:内蒙古、黑龙江、吉林、山东等地有小到中雪或雨夹雪,贵州、云南、广西、广东等地有小雨,福建、广西等地有雷暴

双预警齐发,中央气象台:内蒙古、黑龙江、吉林、山东等地有小到中雪或雨夹雪,贵州、云南、广西、广东等地有小雨,福建、广西等地有雷暴

扬子晚报
2026-11-18 21:15:35
高迪曝陈泽大瓜!甩出多张截图,聊天记录不堪入目,陈泽最新回应

高迪曝陈泽大瓜!甩出多张截图,聊天记录不堪入目,陈泽最新回应

杨仔述
2026-11-18 12:57:26
台军曾告知台湾民众:开战后,见到穿军服的,一定要尽快远离

台军曾告知台湾民众:开战后,见到穿军服的,一定要尽快远离

不甜的李子
2026-11-18 06:28:57
东风-61列装,引发岛内巨震

东风-61列装,引发岛内巨震

极目新闻
2026-11-17 15:57:30
排面拉满!深圳APEC主持人阵容亮相,央视多位名嘴齐聚鹏城

排面拉满!深圳APEC主持人阵容亮相,央视多位名嘴齐聚鹏城

情感大头说说
2026-11-18 04:48:40
“没人活得比我更爽了!”女孩炫耀从小玩到大,网友:毕业薪资多少?她沉默了

“没人活得比我更爽了!”女孩炫耀从小玩到大,网友:毕业薪资多少?她沉默了

蝴蝶花雨话教育
2026-11-18 00:05:17
黄仁勋离开英伟达后,他的儿子、女儿、女婿也会被赶走吗?

黄仁勋离开英伟达后,他的儿子、女儿、女婿也会被赶走吗?

新商业派
2026-11-18 19:51:07
山东男篮逆转广东,陈林坚冷血三分制胜,替补席涌现小奇兵

山东男篮逆转广东,陈林坚冷血三分制胜,替补席涌现小奇兵

臻体育
2026-11-18 22:04:57
《谷雨》港味满满,6位香港演员功不可没,石榴姐、余文乐都老了

《谷雨》港味满满,6位香港演员功不可没,石榴姐、余文乐都老了

娱君坠星河
2026-11-18 13:37:40
李乃文直言演完《伟大的长征》很心虚,自嘲 “张国焘不适合参加创作座谈会”

李乃文直言演完《伟大的长征》很心虚,自嘲 “张国焘不适合参加创作座谈会”

草莓解说体育
2026-11-18 13:20:02
我表弟有幸,跟黄乐在上海的投资公司当过同事,他说:黄乐最让人着迷的根本不是她的外貌,而且网上那些照片,也不如本人好看

我表弟有幸,跟黄乐在上海的投资公司当过同事,他说:黄乐最让人着迷的根本不是她的外貌,而且网上那些照片,也不如本人好看

一盅情怀
2026-11-11 15:52:58
同样是抵达马尼拉,中国代表和日本首相的接机规格,差在哪?

同样是抵达马尼拉,中国代表和日本首相的接机规格,差在哪?

爱下厨的阿酾
2026-11-18 03:37:45
车船税优惠大调整!2027年1月1日起,大部分车主或将受到影响?

车船税优惠大调整!2027年1月1日起,大部分车主或将受到影响?

触摸史迹
2026-11-17 09:20:45
又一国宣布:加息!金价,重挫!

又一国宣布:加息!金价,重挫!

证券时报
2026-11-18 17:28:04
公交系统终于想通了:与其让一城人抢上车,不如让他们先举手

公交系统终于想通了:与其让一城人抢上车,不如让他们先举手

琴音缭绕回
2026-11-18 12:25:15
真正的思念,总是会无声无息的

真正的思念,总是会无声无息的

疾跑的小蜗牛
2026-11-18 21:04:36
2026-11-18 22:36:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16711文章数 67239关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

房产
健康
亲子
教育
艺术

房产要闻

6.6亿!海口卖地!

医生眼里"很伤腰"的椅子,很多人天天坐

亲子要闻

宝宝气人但是聪明的4个行为

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

无障碍浏览 进入关怀版