网易首页 > 网易号 > 正文 申请入驻

前瞻人工智能安全评估体系与基座平台入列北京人工智能前沿成果

0
分享至

新京报贝壳财经讯(记者罗亦丹)2026北京人工智能创新高地建设推进会于1月5日举办,会上发布北京人工智能8大前沿成果。其中,由北京前瞻人工智能安全与治理研究院发布的“前瞻人工智能安全评估体系与基座平台”在列。

作为人工智能安全与治理的代表性北京创新成果,“前瞻人工智能安全评估体系与基座平台”探讨如何以安全为基石,引领人工智能的稳健发展。该体系打破传统安全评估的单一维度局限,形成了全领域、多层次的评估框架。从覆盖范围来看,它根植基础安全,延伸至具身智能安全、科学智能安全、社会安全、环境安全、灾难性与生存性风险五大维度,覆盖教育科研、医疗健康、金融经济、信息传媒、工业基建、政务民生等多个关键领域。从评估重点来看,特别聚焦隐私与数据保护、滥用恶用、身心伤害、虚假信息防范、自主人工智能高阶风险等核心痛点,进行体系化设计与评估。

前瞻院通过测试发现了一个关键问题:近年来的大模型在安全性方面并未明显提升,部分新近模型的攻击成功率甚至更高。但同时前瞻院也验证了一个重要结论:人工智能模型防御并不必然需要重新训练模型,在在线推理阶段通过部署安全护栏,就能显著提升模型安全水平。针对前瞻安全基准中的各类风险,前瞻院打造了 “前瞻・灵御”AI安全攻防平台,可为企业提供标准化评估流程、全面系统的安全分析,帮助企业准确识别模型安全水平,并提供针对性的防御方案与加固建议。

此外,前瞻院还构建了 “前瞻・灵度”AI 伦理评估平台,专注于AI伦理的智能评估与价值校准。平台能够对上百个大模型进行实时动态监控与并行测试,评估其在六大维度、90 个细分类别的伦理合乎度。其集成了以中国价值观为核心的大规模中文价值语料库,覆盖3个层面、12个核心价值、50个衍生价值,累计25万余条规则;收录了全球 200 余项伦理原则与规范,以及40余项中英文法律法规与国际公约,提供精准的合规指引。可以对人工智能、数据安全、神经科学、脑机接口、医疗健康、生物安全、危险化学物质、核物质、自动驾驶等领域进行自动化伦理评估辅助。

前瞻院认为,人工智能安全应成为 “第一性原理”,是不可删除、无法违背的底线要求。安全治理能力基座的构建是北京引领人工智能稳健发展的基础,让我们更有把握地将AI安全地应用于现代化建设,与全世界共享人工智能发展的机遇与成果。

编辑 杨娟娟

校对 陈荻雁

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
财政盈余1.1万亿!阿根廷这“烂车”,真让米莱从沟里开出来了?

财政盈余1.1万亿!阿根廷这“烂车”,真让米莱从沟里开出来了?

超喜欢我
2026-09-29 22:28:09
女人多久能忘记同居过的男友?

女人多久能忘记同居过的男友?

那年秋天
2026-10-12 20:30:52
万梓良的儿子,18岁生日那天收到的不是跑车,不是豪宅,而是一块光滑的、没有刻字的金属牌

万梓良的儿子,18岁生日那天收到的不是跑车,不是豪宅,而是一块光滑的、没有刻字的金属牌

一盅情怀
2026-08-22 16:34:50
老乔或许把路走窄了!青岛养活不了两支中超球队?新帅选陈洋二李OR谢晖?

老乔或许把路走窄了!青岛养活不了两支中超球队?新帅选陈洋二李OR谢晖?

刀锋体育
2026-11-16 09:32:13
章子怡太丰满,真空穿连衣裙都兜不住好身材,我感慨资本太会选人

章子怡太丰满,真空穿连衣裙都兜不住好身材,我感慨资本太会选人

蓓小西
2026-11-05 08:30:16
胡适直言:毛泽东不是我学生,他的水平考不上北大!主席从容回应

胡适直言:毛泽东不是我学生,他的水平考不上北大!主席从容回应

小豫讲故事
2026-08-28 06:00:11
西安事变过后,毛主席第一时间去劝周恩来:不要成为第二个张学良

西安事变过后,毛主席第一时间去劝周恩来:不要成为第二个张学良

凡人侃史
2026-11-16 16:11:51
被加拿大拒绝入境!国际冰球联合会发文:俄罗斯队无法参加世青赛

被加拿大拒绝入境!国际冰球联合会发文:俄罗斯队无法参加世青赛

全景体育V
2026-11-16 07:20:27
钟南山提醒:想要老了能自理,一定要早点练抗阻运动

钟南山提醒:想要老了能自理,一定要早点练抗阻运动

坠入二次元的海洋
2026-11-13 07:53:02
被视为选秀大年的19届选秀前三甲,如今7年过去了,他们表现达到预期了吗?仅一人进过全明星

被视为选秀大年的19届选秀前三甲,如今7年过去了,他们表现达到预期了吗?仅一人进过全明星

大卫的篮球故事
2026-11-16 17:37:29
宏远速递!陈老板最新决定,又一强援将加盟,徐杰深夜发声!

宏远速递!陈老板最新决定,又一强援将加盟,徐杰深夜发声!

体坛卡卡说
2026-11-16 15:24:45
国家出手了!以后买菜、赶集、逛超市,可能迎来这些新变化

国家出手了!以后买菜、赶集、逛超市,可能迎来这些新变化

笑熬浆糊111
2026-11-16 07:33:49
研究者称DeepSeek等模型用被禁英伟达芯片训练

研究者称DeepSeek等模型用被禁英伟达芯片训练

码上闲叙
2026-11-14 22:56:58
高校教师淘汰率比大厂还残酷?上至教授、副教授,下至青年教师无一幸免,高校铁饭碗真的不存在了吗?

高校教师淘汰率比大厂还残酷?上至教授、副教授,下至青年教师无一幸免,高校铁饭碗真的不存在了吗?

高教经纬88
2026-11-15 08:30:03
A股:做好准备了!重要消息来了,今明两天,股市或将这样走!

A股:做好准备了!重要消息来了,今明两天,股市或将这样走!

财经大拿
2026-11-16 06:05:14
公开否定“文革”第一人,他是最敢说真话的硬骨头!

公开否定“文革”第一人,他是最敢说真话的硬骨头!

涵豆说娱
2026-10-18 14:11:18
风波落幕!黄仁勋回到自己的豪宅,3800万美金顶豪,金门大桥全景尽收眼底

风波落幕!黄仁勋回到自己的豪宅,3800万美金顶豪,金门大桥全景尽收眼底

魔都姐姐杂谈
2026-11-15 12:21:26
暴跌40%,又土又贵还开遍机场,曾经的中产标配,彻底卖不动了!

暴跌40%,又土又贵还开遍机场,曾经的中产标配,彻底卖不动了!

青眼财经
2026-07-19 17:14:17
大陆向来尊重的台湾学者赵春山,他曾在公开场合坦然抛出疑问:大陆的医疗水平和地铁系统,难道真的比不上台湾吗?

大陆向来尊重的台湾学者赵春山,他曾在公开场合坦然抛出疑问:大陆的医疗水平和地铁系统,难道真的比不上台湾吗?

唠叨说历史
2026-11-16 15:22:54
滔搏前辅助Hang直播落泪:真的找不到队伍,没工作挺丢人的,卡里只剩200万

滔搏前辅助Hang直播落泪:真的找不到队伍,没工作挺丢人的,卡里只剩200万

国创漫话
2026-11-15 13:28:55
2026-11-16 20:03:00
贝壳财经 incentive-icons
贝壳财经
新京报旗下财经品牌
71514文章数 14091关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

两架大型飞机停田野9年锈迹斑斑 机舱有床还有星空顶

头条要闻

两架大型飞机停田野9年锈迹斑斑 机舱有床还有星空顶

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

官宣离婚不到1月,李小冉进医院

财经要闻

10万人逼宫英伟达 黄仁勋要复职了?

汽车要闻

小升级大体验 2027款岚图知音让家用更便捷

态度原创

艺术
数码
游戏
家居
手机

艺术要闻

颜真卿罕见的楷书真迹,这字揭露他的真实水平,比《多宝塔》更值得学!

数码要闻

U盘自带屏幕跑起Doom 靠拷贝文件控制走位开枪

《星球大战:旧共和国》启动DirectX 12客户端技术测试

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

荣耀13300mAh电池通过3C认证,有望搭载于Power3或X90 Pro Max机型

无障碍浏览 进入关怀版