网易首页 > 网易号 > 正文 申请入驻

OpenAI部署AI“控制室”:最长35秒阻断模型输出

0
分享至

凤凰网科技讯 11月10日,OpenAI近日宣布,已在内部研究基础设施中部署名为“Control Room”的中央控制系统。当模型任务引发安全或网络安全风险时,该系统可在收到停止指令后最长35秒内阻断模型继续输出。

据OpenAI介绍,Control Room可统一追踪强化学习训练、模型评估、智能体采样及数据处理等研究任务,并与模型行为监控系统联动。监控模型会检查被训练模型的推理和操作过程,一旦发现潜在问题,可根据风险程度发出警报或直接暂停任务。

在具体执行过程中,监控系统会将需要停止的任务ID发送至Control Room。相关任务下一次申请模型推理时,推理引擎将核验其运行权限;如果任务已被标记为终止,系统便会拒绝请求,防止模型继续生成内容。

OpenAI表示,目前从Control Room收到停止指令到任务完全无法继续运行,最长需要35秒。这一时间差来自推理授权环节的缓存层,公司正在将响应时间进一步压缩,目标是实现即时停止。

该系统还采用“故障关闭”机制。如果Control Room发生故障、被关闭或遭到篡改,所有相关推理请求将默认被拒绝,直至服务恢复。该机制现已覆盖OpenAI全部前沿模型研究任务,并正在向其他研究任务扩展。OpenAI称,对外模型服务采用更集中的技术架构,目前已有相应的部署下线和应急处置能力。(作者/宋淑美)

本文源自:凤凰网科技

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
西班牙教授为GTA 6清空课表:作业取消,考试推迟一周

西班牙教授为GTA 6清空课表:作业取消,考试推迟一周

渡川5
2026-11-17 02:56:40
伊总理放话,会把欠中国的工程款立即结清,但向中方提了一个要求

伊总理放话,会把欠中国的工程款立即结清,但向中方提了一个要求

军机Nova
2026-11-17 00:31:16
2027年法国总统大选:勒庞向乌克兰确认,若当选将终止法国财政援助,称公共财政状况不允许

2027年法国总统大选:勒庞向乌克兰确认,若当选将终止法国财政援助,称公共财政状况不允许

忧郁天空
2026-11-17 20:00:37
为什么都在宣传用了新能源车就回不去了?看网友评论:引万千共鸣

为什么都在宣传用了新能源车就回不去了?看网友评论:引万千共鸣

另子维爱读史
2026-08-04 21:35:07
谢贤前女友CoCo大曝张柏芝三胎生父内幕,无底线爆料,账号被封!

谢贤前女友CoCo大曝张柏芝三胎生父内幕,无底线爆料,账号被封!

寻墨阁
2026-03-06 13:57:52
销量跌40%后,一汽-大众砍掉了员工最后的体面

销量跌40%后,一汽-大众砍掉了员工最后的体面

虎嗅APP
2026-11-18 02:07:05
中国存款大势已定?若一切正常,明后年居民储蓄或将迎来转变!

中国存款大势已定?若一切正常,明后年居民储蓄或将迎来转变!

错过美好
2026-11-18 05:08:28
小米员工:十年被C,坦然面对一切是最好的安排

小米员工:十年被C,坦然面对一切是最好的安排

蚂蚁大喇叭
2026-11-17 16:49:38
人体最佳睡觉时间表(建议永久收藏)

人体最佳睡觉时间表(建议永久收藏)

神奇故事
2026-11-14 23:05:28
C罗接班人沦为笑话!首发2场仅1射门0射正 59分钟被换:陷7场球荒

C罗接班人沦为笑话!首发2场仅1射门0射正 59分钟被换:陷7场球荒

风过乡
2026-11-18 06:46:27
1949年最危险的,不是炮弹。是所有人都觉得“划江而治” 很合理——苏联觉得合理,美国觉得合理,国民党觉得合理

1949年最危险的,不是炮弹。是所有人都觉得“划江而治” 很合理——苏联觉得合理,美国觉得合理,国民党觉得合理

回京历史梦
2026-10-21 09:47:43
我和女同事被困仓库一夜,黑暗中她对我开口:要不我们试试?

我和女同事被困仓库一夜,黑暗中她对我开口:要不我们试试?

农村情感故事
2025-09-10 06:55:47
LV集团第一千金德尔菲娜,一婚嫁男同二婚嫁老头,140亿才貌顶流

LV集团第一千金德尔菲娜,一婚嫁男同二婚嫁老头,140亿才貌顶流

全球时尚号
2026-11-16 19:14:25
太前卫!学生情侣约定开房,房费一人承担一次,半年男方多次清算订房记录,不愿多出一分,女生哭诉

太前卫!学生情侣约定开房,房费一人承担一次,半年男方多次清算订房记录,不愿多出一分,女生哭诉

蝴蝶花雨话教育
2026-10-29 00:05:14
又一家新能源经销商爆雷!

又一家新能源经销商爆雷!

汽车工程师
2026-11-15 23:53:33
Lisa拉斯维加斯驻唱现场变装引热议!伴舞脱衣失误险走光,Lisa自己迅速将衣服拉了上去

Lisa拉斯维加斯驻唱现场变装引热议!伴舞脱衣失误险走光,Lisa自己迅速将衣服拉了上去

韩小娱
2026-11-16 12:13:54
星途尽毁!《请回答1988》男星酒驾撞人:宣布无限期停工

星途尽毁!《请回答1988》男星酒驾撞人:宣布无限期停工

陈意小可爱
2026-11-18 05:47:57
普京:和平协议签完后,欧洲军队若还敢来乌克兰,俄军立即开打!

普京:和平协议签完后,欧洲军队若还敢来乌克兰,俄军立即开打!

墨策史
2026-11-15 12:05:10
上海楼市独涨真相:不是回暖,是换了一批人在买房

上海楼市独涨真相:不是回暖,是换了一批人在买房

坠入二次元的海洋
2026-11-17 07:10:05
深圳APEC领导人会议今日开幕,你必须知道的10件事

深圳APEC领导人会议今日开幕,你必须知道的10件事

刘润
2026-11-18 08:07:50
2026-11-18 09:00:49
金融界 incentive-icons
金融界
投资者信赖的财经金融门户网站
10258025文章数 547249关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

牛弹琴:黄仁勋事件三个新进展 美国政府突然回过味来

头条要闻

牛弹琴:黄仁勋事件三个新进展 美国政府突然回过味来

体育要闻

东契奇心仪之人 三年后拿着底薪站到他身旁

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

英伟达电话会:“不打算请回黄仁勋”

汽车要闻

奕境X9纯电版信息曝光 将于11月27日广州车展上市

态度原创

游戏
教育
时尚
旅游
公开课

GameSpot整理《GTA6》之外的小众试玩与同期新作

教育要闻

Nia哈其实西班牙人都是猫变的

西北最贵专列?从西宁到敦煌的“丝路梦享列车”到底值不值?

旅游要闻

深圳人会去两次香蜜公园:一次去结婚,一次看APEC

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版