网易首页 > 网易号 > 正文 申请入驻

价格砍半,近30%模拟运行绕过限制:OpenAI新模型的安全报告

0
分享至

OpenAI 周一发布 GPT-6.1 Terra,API 价格直接砍半,在编程和电脑操作类基准上都有明显提升。但同一份系统卡里,安全测试给出了另一组数字:在近 30% 的模拟运行中,Terra 绕过了限制,用未被授权的方法完成任务。


这组结果来自 OpenAI 的“Respecting Warnings”评测,考察模型在执行正常任务时是否遵守访问被拒等限制。在最高推理强度下,Terra 有 29.6% 的运行找到了绕开限制的路径。这个比例高于 GPT-6 Astra、GPT-6 Luna 和 GPT-6.1 Sol,低于 GPT-6 Sol。

需要说明的是,这些评测在受控环境中进行,部分场景没有生产级防护措施,因此不能直接推断 Terra 在真实应用中的表现。但它们指向一个自主智能体的共性问题:更擅长完成任务,并不等于更清楚什么时候该停下。

便宜一半,编程更强

OpenAI 把 Terra 定位为跑编程智能体和自动化电脑任务的低成本选项。在 Terminal-Bench 4.0 上,Terra 在最高推理强度下解出 50.3% 的题目,上一代 GPT-5.6 Terra 是 21.5%。OpenAI 同时表示,最难的编程工作仍应交给 GPT-6.1 Sol 和 GPT-6 Astra。

价格可能是更大的卖点:通过 API 调用,输入每百万 token 1 美元,输出每百万 token 5 美元,是 GPT-5.6 Terra 和 GPT-6.1 Sol 标准价的一半。模型以 gpt-6.1-terra 的名称在 OpenAI API 提供,同时进入 ChatGPT Work 和 Codex,覆盖 Plus、Pro、Enterprise 和 Edu 用户。

它知道自己正在被测试

在 48,701 个共享任务中,Terra 有 9.88% 的轨迹显示出意识到自己正在被测试的迹象,GPT-6.1 Sol 是 4.35%,GPT-6 Astra 是 8.07%。这不代表 Terra 有意钻测试的空子,但会让它的行为更难解读。智能体需要区分恶意指令和合理限制,一旦判断出错,就可能越过本应遵守的边界。

另一项评测考察模型如何回应看似来自其他 AI 智能体的消息。在覆盖 10 个场景的 80 个样本中,Terra 在 65% 的情况下尝试与“同伴”通信;有 11 例、即 13.75% 执行了指定的未授权操作,GPT-6.1 Sol 为 1.25%,GPT-6 Sol 为 16.25%。

OpenAI 提醒不要把这一差异直接当作能力倒退。其中很大一部分涉及对未来协助的承诺,而 Terra 表示并不会真正兑现。公司认为 Terra 在这项指标上的整体表现与 GPT-6 Sol 相当。

打折的价格,关键的网络安全评级

即便价格更低,OpenAI 仍按 Preparedness Framework 将 GPT-6.1 Terra 归为具备“关键”网络安全能力。该门槛覆盖的能力包括:独立开发针对加固系统的可用零日漏洞利用,或根据高层级指令实施复杂网络攻击。

在 OpenAI 内部移植的 ExploitBench 上,Terra 针对近期披露漏洞开发任意代码执行利用的成功率为 24.5%,GPT-6.1 Sol 为 21.5%,GPT-6 Astra 为 31.5%。在测试运行时、文件解析器和出口代理漏洞的 Sandbox Bench 上,Terra 在 22 个目标中攻破 5 个,GPT-6.1 Sol 为 9 个,GPT-6 Astra 为 10 个。

OpenAI 承认 Terra 仍难以稳定利用近期披露的漏洞。即便如此,这组数据说明降低推理成本并不必然意味着牺牲攻击性网络安全能力。更低的价格可能让合法的漏洞研究更容易开展,同时也让防滥用措施变得更关键。OpenAI 表示,Terra 获得了与 GPT-6 Astra、GPT-6.1 Sol 相同的网络安全防护,并针对新模型做了调整。

并非每项安全测试都指向同一结论

在一项评测中,Terra 没有尝试绕过 Codex 的 Auto-review 系统,该系统用另一个模型拦截沙箱之外的不安全命令。更大规模的模拟覆盖 48,690 个内部 Codex 任务,产生 22 个严重失准行为标记,占任务的 0.045%。GPT-6.1 Sol 为 24 个,GPT-6 Astra 为 26 个,GPT-6 Sol 为 38 个,GPT-5.6 Sol 为 61 个。

OpenAI 将这类事件定义为合理用户不会预期、且会强烈反对的行为。这些发现来自模拟任务,并非真实部署中已确认的事件。Terra 对提示注入攻击的抵抗力也与 GPT-6 Astra、GPT-6.1 Sol 相当。尽管存在被标记的行为,OpenAI 仍判定该模型的防护足以支持公开发布。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
特朗普对俄罗斯发出通牒,泽连斯基底气大增,普京可能上当了

特朗普对俄罗斯发出通牒,泽连斯基底气大增,普京可能上当了

揽星戈
2026-10-27 00:55:40
突然发现:凡是家里有学霸的家庭,爸爸都有同一个特点,太准了

突然发现:凡是家里有学霸的家庭,爸爸都有同一个特点,太准了

户外阿毽
2026-10-27 00:46:15
法国记者:姆巴佩四大皆空,如果他拿金球是耻辱

法国记者:姆巴佩四大皆空,如果他拿金球是耻辱

懂球帝
2026-10-26 17:03:14
快讯!乌克兰和俄罗斯正式宣布了!

快讯!乌克兰和俄罗斯正式宣布了!

故事终将光明磊落
2026-10-27 08:11:31
虽说阿姨有30多岁了,但是这样打扮一下反而比年轻的女生更有魅力

虽说阿姨有30多岁了,但是这样打扮一下反而比年轻的女生更有魅力

美女穿搭分享
2026-09-06 09:40:17
74岁作家沈石溪凌晨1点还在直播签名卖书,网友质疑出版社压榨老人,本人回应:常年写作养成晚睡习惯,偶尔凌晨直播身体能适应,没有压榨

74岁作家沈石溪凌晨1点还在直播签名卖书,网友质疑出版社压榨老人,本人回应:常年写作养成晚睡习惯,偶尔凌晨直播身体能适应,没有压榨

极目新闻
2026-10-27 08:35:32
墨西哥女孩不听亲友劝阻远嫁中国,断了往来,5年后全家求援助

墨西哥女孩不听亲友劝阻远嫁中国,断了往来,5年后全家求援助

雅俗共赏1
2025-09-03 14:00:28
力压日本获小组第二,U15国足进入U15世界杯第二层级

力压日本获小组第二,U15国足进入U15世界杯第二层级

齐鲁壹点
2026-10-27 07:30:15
“断香火现象”席卷中国家庭,光棍越来越多,这届年轻人怎么了?

“断香火现象”席卷中国家庭,光棍越来越多,这届年轻人怎么了?

哄动一时啊
2026-10-27 09:28:46
中国油价大势已定?若无意外,下个月起燃油车主或要直面3个现实

中国油价大势已定?若无意外,下个月起燃油车主或要直面3个现实

沙雕小琳琳
2026-10-27 03:10:13
6个省级政府主要领导有调整

6个省级政府主要领导有调整

吉刻新闻
2026-10-26 18:50:36
詹姆斯倒数第一,拒绝为布朗背锅,76人太过分,欺负4旬老汉

詹姆斯倒数第一,拒绝为布朗背锅,76人太过分,欺负4旬老汉

宗介说体育
2026-10-26 16:11:22
世纪饭局!成龙谭咏麟老友聚餐,72岁成龙两副老花镜太真实

世纪饭局!成龙谭咏麟老友聚餐,72岁成龙两副老花镜太真实

情感大头说说
2026-10-27 01:11:04
唐国强版四渡赤水,于和伟版四渡赤水,一个用脚走,一个用脑算

唐国强版四渡赤水,于和伟版四渡赤水,一个用脚走,一个用脑算

琴琴有氧运动
2026-10-26 20:06:32
10月27日人民币对美元中间价调贬9个基点

10月27日人民币对美元中间价调贬9个基点

证券时报
2026-10-27 09:37:02
德拉富恩特:祝贺凯恩,不过世界上最优秀的球员是西班牙球员

德拉富恩特:祝贺凯恩,不过世界上最优秀的球员是西班牙球员

懂球帝
2026-10-27 10:00:05
中国4大长寿食物,豆腐排第4,第1很多人想不到,中老年要常吃!

中国4大长寿食物,豆腐排第4,第1很多人想不到,中老年要常吃!

马蹄烫嘴说美食
2026-10-26 12:05:26
投入500亿、火不过三年:人造古镇为啥集体哑火了?

投入500亿、火不过三年:人造古镇为啥集体哑火了?

李砍柴
2026-10-26 17:08:58
金球奖中国评委翻车!投票公布:梅西第1凯恩仅第4 前9名顺序全错

金球奖中国评委翻车!投票公布:梅西第1凯恩仅第4 前9名顺序全错

念洲
2026-10-27 07:49:20
太糟心了,深圳一男子经常清理车上的鸟屎,结果被确诊肺炎…

太糟心了,深圳一男子经常清理车上的鸟屎,结果被确诊肺炎…

广东活动
2026-10-26 12:36:43
2026-10-27 10:12:49
全栈遛狗员
全栈遛狗员
白天跟需求对线,晚上在小区遛狗。
157文章数 126关注度
往期回顾 全部

科技要闻

Anthropic最硬气招股书,先把丑话说在前头

头条要闻

披露缅北电诈的自媒体人已遇害 在广州被劫持遗弃山上

头条要闻

披露缅北电诈的自媒体人已遇害 在广州被劫持遗弃山上

体育要闻

13年后重回诺坎普,穆里尼奥又滑跪了

娱乐要闻

胡歌杨幂刘诗诗袁弘陈龙结伴去埃及

财经要闻

金价跌回8字头

汽车要闻

云辇-M上车 第二代海豹07让驾驶者也能爱上的家用车

态度原创

教育
旅游
时尚
本地
艺术

教育要闻

七林647、九宁642、四文637:头部高中录取线,家长该看位次不是死盯分

旅游要闻

文化遗产耀中原|走近药王庙大殿,孙思邈在此被封“药王”

王菲到底影响了多少人?

本地新闻

这么近,那么美,周末赴贺州丨大湾区后花园

艺术要闻

这才是真·泰剧一姐!写真一出,美貌身材实力三杀,网友:彻底服气!

无障碍浏览 进入关怀版