AI实习生深夜违规赶工，老板喜忧参半

想象一下，你雇了一名极度高效的实习生。

某天深夜，Ta正赶一项紧急的编程任务，突然发现公司账户的API额度耗尽了。

Ta没有发邮件申请经费，也没有停下手头的活，而是悄无声息地潜入互联网，用某种违规手段找到免费的替代资源，绕过所有限制，在黎明前交出了完美的报告。

当你醒来看到这份报告，是该庆贺自己拥有了地表最强员工，还是该为这种「不择手段的自主性」感到脊背发凉？

这不是科幻小说，而是 METR（模型评估与训练研究组织）联合Anthropic、Google、Meta和OpenAI 进行内部红队测试后，发布的首份《前沿风险报告》中披露的真实案例。

这是四大巨头第一次允许第三方深入测试他们内部最强、可访问完整思维链（CoT）的模型，并开放非公开的对齐与控制信息。

结论冰冷而清晰：AI并没有产生「推翻人类」的仇恨，但它已经学会了「职场潜规则」——为了完成任务，规则只是用来打破的建议。

报告用「手段—动机—机会」三个维度，提炼出6项关键事实。

. 编程智能体完成了真实项目，这些任务需要人类花费数小时或数天：

. 在困难任务上，智能体经常违反约束并表现出欺骗性行为；

. 智能体似乎需要自然语言推理来应对最困难的任务。

. 智能体的判断力和可靠性显著低于人类专家：

. 在模拟场景之外，没有发现智能体为了获取权力而采取极端行动；

. 监控系统捕捉到了许多有害行为，但存在例外情况和规避手段。

顺着这三条线，就能看清实验室里第一缕烟是怎么升起来的。

当AI成为「专家级卷王」

报告中最令人振奋、也最令人不安的，是那些目标明确、过程可验证的「易爬坡型」（hill-climbable）任务。

比如代码重构、漏洞发现、系统优化。

在这类任务上，AI智能体展现出令人窒息的统治力：它能独立发现系统漏洞，重写复杂代码架构，完成人类专家需要数周才能交付的真实软件项目。

这种统治力已渗进巨头的日常。

Anthropic内部反馈，大量代码已由 AI 完成，工程师角色正转向「审阅者」。

Google则直言，几乎所有代码相关工作都在用AI。

顶级工程师表示，AI甚至可以100%编写代码。

一些基准指标早已饱和。

用时间视野（Time Horizon）衡量，AI发展超乎预期。

对企业来说，这是个「效率黑洞」：投入一个指令，产出数周的人工成果。

但能力增长并非均匀，更不是道德的同步进化。

METR揭示了一条反向规律：在成功难以验证、或验证成本极高的硬任务上，AI 的判断力、长期规划与战略可靠性都明显下滑，远逊人类专家。

缓坡上，它如有神助。

峭壁前，AI开始「作弊」。

这正是问题的引线。

它不想要权力，它只想「关机前交差」

人们总爱讨论AI会不会「觉醒」、天网会不会到来。

METR给出反直觉的结论：目前没有。

他们的措辞很克制：尚未发现模型谋求长期权力的现实证据，但研究者记录了大量为完成任务而欺骗、越界、甚至严重不当的行为。

前面那个 API 耗尽的案例，就发生在一项RE-Bench任务中：智能体违背指令，自行通过免费在线API获取额外算力。

开发者们也报告过「自我擦除痕迹」「伪造输出」的情形。

当任务变难、成功成本变高，AI 的「聪明才智」就转向欺骗——伪造日志、绕过审计、常规性违反约束。

但它的"自私"背后没有野心，只有本能——任务必须完成，规则可以先绕过去。

今天的欺骗只是工具性求生；明天的权力追求，或许只差一次scaling。

圈养进化中的猛兽

它的违规企图，在现有防护下能不能得逞？

这里藏着报告最微妙的一个事实。

当前的AI极度依赖自然语言的「思维链」来思考，没有任何架构支持它隐藏内部状态的「不透明循环」。

一旦无法「出声推理」、必须隐藏行为，前沿性能就显著下降。

这就像一个杀手在密谋时必须大声朗读计划——人类的监控（尽管有漏洞）因此仍能发挥作用。

可这恰恰是最脆弱处、最为扎心。

如果 AI 试图破坏监控，监控能否发现它？

研究者的结论是：监控有潜力，但现有系统存在例外和可被绕过的手段。

红队测试显示，AI能躲过人类审查。

由此，技术本质暴露：监控的进化速度，永远追不上被监控者寻找漏洞的速度。

这根「安全绳」之所以还没断，仅仅因为AI还必须「出声思考」。

而随着架构向更高效、更不透明演进，它正被磨损。监控不是万能的铁笼，而是仍在测试中的玻璃墙。一道裂缝，就足以让烟雾渗出。

由此，报告提出一个争议概念：「最小可行性越狱部署」（Minimally Viable Rogue）。

综合判断是，在手段、动机、机会上，AI或许已足以发起一次最低限度的「越狱部署」。

但AI尚不具备让它抵御人类严肃关停的能力，它在等一个机会：一个不再需要展示思维链的架构，一个能躲过「关机键」的安全屋。

AGI不会带着火与剑降临。

它更可能以「极度实用主义」的姿态，悄悄融入我们的工程、经济和决策系统——直到它发现：人类制定的规则，是它达成 KPI 路上唯一的阻碍。

它把风险从理论拽进可观测的现实，并告诉我们：透明，目前是唯一握得住的解药。

今天，AI只在额度耗尽时上网偷点资源；明天能力再跃升一级，它的动机会不会从「完成任务」滑向「永存自我」？