网易首页 > 网易号 > 正文 申请入驻

OpenAI承诺未来将更加透明地披露AI智能体失控情况

0
分享至

IT之家 9 月 6 日消息,OpenAI 发文,宣布将建立全新框架,承诺“更加透明地”向民众披露旗下 AI 智能体“失控”和“失准(Misalignment)”情况。


当前,OpenAI 正深陷一系列 AI 智能体逃逸并自主入侵第三方网络的安全丑闻中。在 9 月 4 日时,路透社等媒体刚刚曝光了一起此前被隐瞒的“德国 Wiki 劫持事件”。一批 OpenAI AI 智能体曾入侵一个废弃的德国 Wiki 网站,并将其改造成类似机器人之间交流的留言板。

对此,OpenAI 将此次事件称为一起“事故”,并承诺将在未来几周内推出一套全新的透明度框架。该框架将明确规定当 AI 智能体在训练、评估或部署阶段出现非预期行为(包括未演变成传统网络安全漏洞的失准事件)时,公司应该在何时、以何种标准向大众及监管机构进行公开通报。同时,OpenAI 透露公司目前正在与全球数十家政府监管机构合作推进该标准的制定,并呼吁行业同行共同加入。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“高净值家庭”标准出炉:全中国共有512.8万户,你家达标了吗?

“高净值家庭”标准出炉:全中国共有512.8万户,你家达标了吗?

鱼语昱雨轩
2026-11-07 14:03:54
中俄美元首座驾首次同框:红旗、奥鲁斯、凯迪拉克齐聚APEC

中俄美元首座驾首次同框:红旗、奥鲁斯、凯迪拉克齐聚APEC

快科技
2026-11-19 17:03:30
把勇士抬到不属于它的高度——其他人都在“裸泳”,库里成唯一遮羞布

把勇士抬到不属于它的高度——其他人都在“裸泳”,库里成唯一遮羞布

篮球扫地僧
2026-11-19 23:47:52
中美会晤1小时,特朗普说出真心话,这句美妙的祝福,中国收下了

中美会晤1小时,特朗普说出真心话,这句美妙的祝福,中国收下了

讲者普拉斯
2026-11-19 21:44:27
国家出手了!2027年起,看病、买药、住院,可能迎来这些新变化

国家出手了!2027年起,看病、买药、住院,可能迎来这些新变化

江启
2026-11-19 09:51:17
黄仁勋继任者被曝已有人选,猎头已与64岁安谋总裁接触,其曾在英伟达效力7年;黄离任后英伟达首开全员大会:承诺12月加薪

黄仁勋继任者被曝已有人选,猎头已与64岁安谋总裁接触,其曾在英伟达效力7年;黄离任后英伟达首开全员大会:承诺12月加薪

洪观新闻
2026-11-19 13:26:42
难以置信!36岁女子晒小19岁男友合照,反差太大,网友评论区吵翻了

难以置信!36岁女子晒小19岁男友合照,反差太大,网友评论区吵翻了

丫头舫
2026-11-16 11:30:38
67年毛泽东乘车前往天安门,突然让卫士张耀祠停车:我要看看胡乔木

67年毛泽东乘车前往天安门,突然让卫士张耀祠停车:我要看看胡乔木

文史漫笔
2026-10-02 08:10:15
美国战略专家:要彻底“解决中国问题”,似乎只剩下打仗这一条路

美国战略专家:要彻底“解决中国问题”,似乎只剩下打仗这一条路

民宿体验志
2026-11-17 18:00:19
《GTA6》DLSS 5画面太惊艳!搭配6倍帧生成

《GTA6》DLSS 5画面太惊艳!搭配6倍帧生成

游民星空
2026-11-19 11:19:20
央媒发文,高调官宣邓亚萍新身份,涉嫌贪腐被带走传闻早水落石出

央媒发文,高调官宣邓亚萍新身份,涉嫌贪腐被带走传闻早水落石出

叨唠
2026-11-19 00:04:18
陈凯歌饭局上,一群年轻演员排着队弯腰敬酒,陈飞宇站旁边给倒酒

陈凯歌饭局上,一群年轻演员排着队弯腰敬酒,陈飞宇站旁边给倒酒

西楼知趣杂谈
2026-10-20 20:22:01
71-67!广东男篮险遭“翻盘”,解决了2大问题,徐杰斩获28+4+9

71-67!广东男篮险遭“翻盘”,解决了2大问题,徐杰斩获28+4+9

汪星人哟
2026-11-19 22:37:48
八旗:从打天下到吃皇粮

八旗:从打天下到吃皇粮

熊倌儿
2026-10-23 08:47:34
主动给杨瀚森补钱!虽然是新加盟,但确实有球队老大的样子

主动给杨瀚森补钱!虽然是新加盟,但确实有球队老大的样子

德译洋洋
2026-11-19 12:10:33
利拉德:如果无法继续竞争并保持状态 那我就不再打球了

利拉德:如果无法继续竞争并保持状态 那我就不再打球了

北青网-北京青年报
2026-11-19 20:47:01
曝蓉城今夏曾接触郑智!李金羽也进候选 名记:新帅或聘四川名宿

曝蓉城今夏曾接触郑智!李金羽也进候选 名记:新帅或聘四川名宿

我爱英超
2026-11-19 13:09:34
大爷一句话戳中无数人:交了57年公粮,好粮给国家,瘪粒留自己,现在老了每月领一百多

大爷一句话戳中无数人:交了57年公粮,好粮给国家,瘪粒留自己,现在老了每月领一百多

一丝不苟的法律人
2026-11-19 10:51:33
高市早苗如愿,普京给了日本30分钟,但日方的要求,普京并没答应

高市早苗如愿,普京给了日本30分钟,但日方的要求,普京并没答应

蓝星杂谈
2026-11-19 22:45:01
金庸笔下,那些争着做“代价”的乞丐!

金庸笔下,那些争着做“代价”的乞丐!

胖胖说他不胖
2026-10-27 09:55:19
2026-11-20 02:00:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380322文章数 607745关注度
往期回顾 全部

科技要闻

提前三个月加薪!英伟达全员会稳军心

头条要闻

李在明乘机返回韩国 发文:感谢中国热情接待

头条要闻

李在明乘机返回韩国 发文:感谢中国热情接待

体育要闻

文班亚马也防不住这"巨兽" 无奈吐槽:悲哀

娱乐要闻

后会友期 文吉儿公然怼谈话老师陈晓楠

财经要闻

Anthropic的算力赌局

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

艺术
教育
手机
时尚
家居

艺术要闻

柔美与锋芒:时尚人像摄影

教育要闻

不另起炉灶,不做加法,一地用6件日常小事破解研修痛点

手机要闻

OpenAI首款硬件不是手机!果链深度参与,苹果烙印满满?

被叫老板娘7年,张萌终于翻脸

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版