网易首页 > 网易号 > 正文 申请入驻

全球首个AI智能体安全测试标准发布

0
分享至

新京报贝壳财经讯(记者罗亦丹)记者7月14日获悉,世界数字科学院(WDTA)已在联合国日内瓦总部正式发布AI STR系列新标准《AI智能体运行安全测试标准》,标准由蚂蚁集团、清华大学、中国电信牵头,联合普华永道、新加坡南洋理工大学、美国圣路易斯华盛顿大学等二十余家国内外机构、企业及高校共同编制,为全球首个单智能体运行安全测试标准。

该标准针对智能体跨越“语言墙”所带来的“行为”风险,首次将输入输出、大模型、RAG、记忆和工具五个关键链路与运行环境对应起来,构建了全链路风险分析框架;同时,细分了智能体风险类型,完善并创新提出了模型检测、网络通信分析和工具模糊测试等测试方法,弥补了智能体安全测试技术标准的空白。

标准在AI for Good全球峰会期间由联合国社会发展研究所(UNRISD)与世界数字科学院(WDTA)联合主办的“数字技术与人工智能社会影响全球咨询会”上发布。

2025年,被称为“智能体元年”。AI智能体凭借着深度思考、自主规划、做出决策并深度执行的能力,使得AI在发展路径上实现一次范式突变:从“我说AI答”到“我说AI做”,并被逐渐应用到各类商业场景中。

然而,技术突破伴随着不容忽视的安全隐忧。最新调研显示,超过70%的智能体从业者担忧AI幻觉与错误决策、数据泄露等问题,因为AI生成的内容往往包含事实错误,或者对指令产生误解,其中超半数受访者表示,所在企业尚未设立明确的智能体安全负责人。

“面对AI相关技术的快速演进,我们必须正视‘科林格里奇困境’:一旦新技术深植社会,风险治理的代价将成倍上升。”WDTA执行理事长李雨航强调,“AI STR系列标准正是试图在这一临界点前建立清晰、可执行的安全标准和测评、认证体系,将伦理与责任嵌入AI的全生命周期之中,从而确保技术发展服务于人类的长期利益。”

峰会上,蚂蚁集团大模型数据安全总监杨小芳表示,当前AI技术应用加速落地,但单智能体的安全风险缺乏统一的全链路安全测试标准,导致潜在的问题难以被量化和规避,单智能体标准的制定是AI治理的“最小可行单元”,而多智能体治理是未来“摩天大楼”的核心结构,下一步行业应从单点逐步向多智能体治理生态共建突破。

与其他国际标准不同,AI STR不仅关注风险识别和风险分级,更提供全流程管理方案,即从数据治理到模型落地,配套具体测试工具和认证流程,助力企业提升AI应用的安全性与可信度。

该标准不仅提供了一套可行可靠的智能体安全基准,也为全球AI智能体生态的安全、可信和可持续发展增加了有益的探索。目前,部分标准的测评与认证已在金融、医疗等领域落地应用。

此前,WDTA已发布3项AI STR标准,包括“生成式人工智能应用安全测试标准”,“大语言模型安全测试方法”和“大模型供应链安全要求”,由OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同参与。

编辑 杨娟娟

校对 杨利

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
马布里,真正的人生赢家。2023 年,马布里结束了与前妻 21 年的婚姻。

马布里,真正的人生赢家。2023 年,马布里结束了与前妻 21 年的婚姻。

回京历史梦
2026-10-30 05:10:04
师胜杰徒弟刘伟发声,谈及马志明认亲事件:80岁出去给人装爹去了

师胜杰徒弟刘伟发声,谈及马志明认亲事件:80岁出去给人装爹去了

草莓信箱
2026-11-19 07:39:49
局势彻底反转了!中方准时行动,俄也介入了,高市后路已被封,日本成不了军事强国,掀起舆论广泛热议

局势彻底反转了!中方准时行动,俄也介入了,高市后路已被封,日本成不了军事强国,掀起舆论广泛热议

民宿体验志
2026-11-15 19:41:13
1879年,浙江巡抚谭钟麟午睡醒来,经过通房丫鬟的房间时与她有了关系;正是这一次,这名丫鬟后来生下了一位国民政府主席

1879年,浙江巡抚谭钟麟午睡醒来,经过通房丫鬟的房间时与她有了关系;正是这一次,这名丫鬟后来生下了一位国民政府主席

人生录
2026-11-20 00:05:12
被日本点赞最强!为何放弃赵睿?或非郭士强拍板,难言之隐曝光

被日本点赞最强!为何放弃赵睿?或非郭士强拍板,难言之隐曝光

喜欢体育的猫
2026-11-20 09:35:49
普京:克里米亚大桥遭袭后将不再谈停火,俄方报复将让乌克兰更加痛苦

普京:克里米亚大桥遭袭后将不再谈停火,俄方报复将让乌克兰更加痛苦

老五汽车世界
2026-11-20 14:52:58
会打扮的女人即使穿一条简单的牛仔裤也很有韵味

会打扮的女人即使穿一条简单的牛仔裤也很有韵味

美女街拍啊
2026-11-20 09:08:28
俄罗斯巨头在深圳宣布,大批天然气准备就绪,将直接运往中国

俄罗斯巨头在深圳宣布,大批天然气准备就绪,将直接运往中国

月下守候
2026-11-20 05:03:27
泽连斯基公开喊话特朗普,想要知道俄美对话,如何安排乌克兰结局

泽连斯基公开喊话特朗普,想要知道俄美对话,如何安排乌克兰结局

观察者海风
2026-11-20 16:07:53
伊能静《后会友期》表现引热议,伊能静一眼看破所有嘉宾登上热搜

伊能静《后会友期》表现引热议,伊能静一眼看破所有嘉宾登上热搜

韩小娱
2026-11-20 06:11:24
奇迹之城!美媒惊呼:深圳的摩天大楼比纽约还多!

奇迹之城!美媒惊呼:深圳的摩天大楼比纽约还多!

52赫兹实验室
2026-11-20 14:35:51
江苏富豪重金为痴傻儿子娶妻,拜金女孩欣然答应,新婚当晚却愣住

江苏富豪重金为痴傻儿子娶妻,拜金女孩欣然答应,新婚当晚却愣住

温情邮局
2025-07-09 14:39:26
炸裂!副总统万斯曝猛料:黄仁勋只是“替人挨刀”,目的搞臭特朗普!

炸裂!副总统万斯曝猛料:黄仁勋只是“替人挨刀”,目的搞臭特朗普!

大厂财经社
2026-11-19 08:03:08
国家免费电视信号已开放,简单调下电视,不用再交有线电视月租

国家免费电视信号已开放,简单调下电视,不用再交有线电视月租

江启
2026-11-06 23:36:07
东山精密:将综合根据行业景气度、市场需求、客户订单等情况动态调整产能

东山精密:将综合根据行业景气度、市场需求、客户订单等情况动态调整产能

每日经济新闻
2026-11-20 12:00:05
AMD遭做空重挫8%,英伟达6日市值蒸发超3万亿元,美股芯片股多股跳水,Anthropic上市首日大涨17%

AMD遭做空重挫8%,英伟达6日市值蒸发超3万亿元,美股芯片股多股跳水,Anthropic上市首日大涨17%

21世纪经济报道
2026-11-20 06:45:50
辽宁“火烧连营”!辽宁一养殖场7棚尽毁,近2万只蛋鸭葬身火海

辽宁“火烧连营”!辽宁一养殖场7棚尽毁,近2万只蛋鸭葬身火海

爱下厨的阿椅
2026-11-20 03:18:49
江青警卫回忆:虽没有抱过外孙,却不是没有感情,跪求主席救李讷

江青警卫回忆:虽没有抱过外孙,却不是没有感情,跪求主席救李讷

纪实文录
2025-06-25 16:39:32
越南领导人很焦虑:和中国一比较才发现,原来我们落后了这么多

越南领导人很焦虑:和中国一比较才发现,原来我们落后了这么多

一簌月光
2026-09-12 08:27:02
领导人们都吃什么?APEC深圳晚宴菜单出圈,头道菜藏着小巧思

领导人们都吃什么?APEC深圳晚宴菜单出圈,头道菜藏着小巧思

刘振起观点
2026-11-19 14:35:45
2026-11-20 16:59:00
贝壳财经 incentive-icons
贝壳财经
新京报旗下财经品牌
71699文章数 14098关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

本地
游戏
家居
公开课
军事航空

本地新闻

乌兰察布:以前种土豆,现在种Token

PC Gamer试玩GTA6百小时:双主角出色但任务重复

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版