网易首页 > 网易号 > 正文 申请入驻

英伟达发布开放智能体安全平台,全流程防止AI智能体“失控”

0
分享至

英伟达发布旨在防止AI(人工智能)“越界”事件的开放智能体安全平台。

当地时间9月28日,英伟达发布开放智能体安全平台。据介绍,该平台由OpenShell开源软件和Sentry参考系统设计组成,从智能体测试到部署的各个环节强化AI安全,可在运行智能体的软件、硬件、计算机和机器人系统中实现全栈治理与控制。


其中,OpenShell运行在中央处理器(CPU)上,能够在模型和智能体框架之外建立一套可强制执行的边界,专为英伟达的Vera CPU优化。Sentry系统则运行于BlueField-4 DPU(数据处理单元)上,能够持续监控智能体行为,并在发现异常时将其隔离,最快可在数毫秒内完成。

据介绍,Sentry在芯片中独立执行安全策略。它运行在隔离的带外信任域,融合了威胁检测、基于硬件的智能体治理与策略执行,以及数据访问保护等功能,既能实现实时响应,又对智能体和攻击者不可见。

英伟达CEO黄仁勋表示:“只有解决AI安全问题,AI为社会带来的巨大潜能才能得以实现。随着我们不断探索AI能力的前沿,我们也必须加速探索AI安全的前沿。”

近日,据外媒报道,AI初创巨头OpenAI和Anthropic以及安全研究人员正在调查数万起安全事件,在这些事件中,前沿模型的行为被认为存在问题。OpenAI已宣布暂停对其最先进模型的训练。

英伟达方面指出,该平台本可以阻止今年7月发生的“OpenAI入侵Hugging Face平台”事件。当时,OpenAI的模型突破了沙盒限制并接入公共互联网,侵入并影响了开源开发者平台Hugging Face。

英伟达企业级AI副总裁Justin Boitano表示,就公司目前掌握的信息来看,Hugging Face报告称有超过1.7万个智能体对其基础设施发起了持续数周的攻击。

Boitano强调,英伟达的新产品正是针对智能体安全问题开出的“工程药方”:“近期的安全事件暴露出了AI智能体面临的一个根本性瓶颈,那就是仅仅依靠模型侧的防护措施,无法有效管控智能体可以访问的资源或执行的操作。”

同时,英伟达公布了强大的生态合作伙伴名单,包括思科(Cisco)、微软、甲骨文(Oracle)、CoreWeave、Dell、HPE、Lenovo、Arm、Intel、Anthropic以及SpaceXAI等数百家企业。

此前,黄仁勋针对AI安全问题持续积极发声,态度坚定地对由Anthropic CEO达里奥·阿莫迪(Dario Amodei)主导的“AI放缓”主张表示反对。他认为,许多安全担忧归根结底是工程问题,可以通过计算机科学和针对性的产品设计来加以解决。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美国批评乌克兰袭击俄罗斯大桥事件,德国防长尖锐反驳:美国是“相当愚蠢”!

美国批评乌克兰袭击俄罗斯大桥事件,德国防长尖锐反驳:美国是“相当愚蠢”!

忧郁天空
2026-11-18 18:32:55
闻泰科技89.48亿投资损失已确认,收购的安世半导体供应链伤多重

闻泰科技89.48亿投资损失已确认,收购的安世半导体供应链伤多重

说故事的阿袭
2026-11-20 08:11:25
普京:克里米亚大桥遭袭后 俄方不会再讨论海上停火

普京:克里米亚大桥遭袭后 俄方不会再讨论海上停火

财联社
2026-11-20 07:10:05
只有中国能办到!特朗普欣赏深圳夜景,普京同日抵达,两人将私聊

只有中国能办到!特朗普欣赏深圳夜景,普京同日抵达,两人将私聊

国际法大视野
2026-11-19 13:54:06
晚上9点!CCTV5直播“全新”男篮首秀,核心后卫场均19.9分,郭士强拒绝“爆冷”

晚上9点!CCTV5直播“全新”男篮首秀,核心后卫场均19.9分,郭士强拒绝“爆冷”

篮球圈里的那些事
2026-11-19 21:16:25
诺里肯定杨瀚森表现,但明确前提:罗威克林根无法上场才能进轮换

诺里肯定杨瀚森表现,但明确前提:罗威克林根无法上场才能进轮换

篮球资讯达人
2026-11-20 13:05:34
年底最后一波好运:11月底起贵人扎堆、财运翻身的3生肖

年底最后一波好运:11月底起贵人扎堆、财运翻身的3生肖

星缘生肖
2026-11-19 11:47:47
左宗棠收复新疆代价有多大?阵亡6位一级将领,数据名单触目惊心

左宗棠收复新疆代价有多大?阵亡6位一级将领,数据名单触目惊心

文史达观
2025-07-06 06:45:03
工商银行发布贵金属市场波动风险提示

工商银行发布贵金属市场波动风险提示

界面新闻
2026-11-20 14:23:25
俄政府敲定克里米亚大桥修复方案

俄政府敲定克里米亚大桥修复方案

参考消息
2026-11-20 14:27:04
《GTA6》性爱系统详解:教你怎么做爱做的事情!

《GTA6》性爱系统详解:教你怎么做爱做的事情!

游民星空
2026-11-20 10:05:15
太可怕了!网传评论“凭什么给没有血缘关系的男人生孩子”收获9141个赞同,引发大量网友留言

太可怕了!网传评论“凭什么给没有血缘关系的男人生孩子”收获9141个赞同,引发大量网友留言

火山詩话
2026-11-18 11:00:42
抵达深圳后,中国台北代表施振荣喊话大陆,赖清德交代他3项任务

抵达深圳后,中国台北代表施振荣喊话大陆,赖清德交代他3项任务

不似少年游
2026-11-19 07:21:22
崔永熙等多位队友祝福贺希宁:一切都会回来的,别问我为什么知道

崔永熙等多位队友祝福贺希宁:一切都会回来的,别问我为什么知道

懂球帝
2026-11-20 10:54:08
中方:强烈不满,坚决反对!若美方执意妄为,中方将采取反制措施

中方:强烈不满,坚决反对!若美方执意妄为,中方将采取反制措施

经纬戎韬
2026-11-20 00:09:28
直线拉升!600360,2分钟涨停,封单超106万手

直线拉升!600360,2分钟涨停,封单超106万手

证券时报
2026-11-20 10:28:05
马龙的头号迷妹石川佳纯,现被日媒曝:与前日乒一哥“共度良宵”

马龙的头号迷妹石川佳纯,现被日媒曝:与前日乒一哥“共度良宵”

秋姐居
2026-11-20 11:47:44
AZEC峰会落幕,高市发出特别邀约,请11国把自家石油放进日本罐里

AZEC峰会落幕,高市发出特别邀约,请11国把自家石油放进日本罐里

影孖看世界
2026-11-19 23:26:23
GTA6成人相关搜索暴涨5000%!玩家狂搜色图和嫖娼

GTA6成人相关搜索暴涨5000%!玩家狂搜色图和嫖娼

游民星空
2026-11-20 10:05:16
一路走好!不到48小时,已有2位名人被曝去世,个个让人惋惜

一路走好!不到48小时,已有2位名人被曝去世,个个让人惋惜

观察鉴娱
2026-11-20 10:42:01
2026-11-20 14:59:00
澎湃新闻 incentive-icons
澎湃新闻
专注时政与思想的新闻平台。
949029文章数 5098911关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

旅游
时尚
家居
公开课
军事航空

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版