网易首页 > 网易号 > 正文 申请入驻

阿里巴巴联合上海人工智能实验室发布AI白皮书

0
分享至

在日前召开的上海浦江AI学术年会上,阿里巴巴联合上海人工智能实验室发布《守己利他:智能时代做负责任的技术》白皮书。白皮书分享了业界针对AI智能体安全隐患的解决策略,提出了AI时代全行业共同应对风险挑战的三个关键词:守己、利他、合作。

这是阿里巴巴连续第四年发布人工智能治理方向的实践成果。据介绍,阿里巴巴围绕全栈AI能力,已经构建了立体化的智能体安全防护体系。

智能体“很能干” 必须做到“很安全”

《白皮书》指出,在当前形势和未来趋势下,安全不再是AI技术研发的选修课,而是社会信任的生命线,全行业必须坚持守己、利他,并积极开展合作,以合作达共识,以共识求共赢。

“当前,全球AI正在从‘很能说’迈向‘很能干’,与之相对应,必须做到‘很安全’。”阿里巴巴人工智能治理与可持续发展实验室主任薛晖在发布会上表示,“去年以来,智能体加速普及,AI自主调度资源、执行复杂任务,风险正在集中暴露。”

据了解,阿里巴巴基于全栈AI能力,将安全基因注入从芯片、云计算、模型到应用的全栈AI体系,在源头上把好关,确保技术和产品先天就是安全的;并坚持开源开放,将内部验证过的技术包括安全技术,作为公共产品向全行业开放,携手千行百业一起践行“负责任的技术”理念。

让模型学习千万级漏洞 提升智能体内生安全能力

“用户DIY智能体,就好比把保险箱直接放在家门口——虽然不能说必然会被窃取,但安全性难以保障。”阿里巴巴通义实验室安全负责人张荣详细讲解了白皮书,在讲到智能体安全时,他打了个比方。“相比之下,Qoder、MuleRun等封装完备的产品,通过内置安全机制,为智能体注入了更强的防护能力,整体安全性更有保障。”

据介绍,针对智能体面临的复杂风险,阿里巴巴围绕全栈AI能力,构建了立体化的安全防护体系。该体系的核心策略是:从源头提升基础大模型的内生安全能力,并构筑多层系统级安全围栏,实现智能体风险的全链路管控。

张荣解释说,在智能体的实际运行中,工具调用与代码执行是安全风险最集中的环节,而这两个环节高度依赖底层大模型的代码生成(AI Coding)能力。为此,阿里巴巴将强化千问模型在编程场景下的原生安全作为重点工作,依托20余年顶尖安全团队积累的代码安全经验,基于千万级真实漏洞样本,打造了高质量的安全训练语料。通过将这些语料深度融入模型训练的各个阶段,并开展多轮严格的安全对齐,千问模型的代码安全性已经达到行业最高水平,在权威代码安全评测基准SecCodeBench中,其生成代码的安全性稳居开源模型首位。

原标题:《阿里巴巴联合上海人工智能实验室发布AI白皮书》

栏目编辑:杨玉红

本文作者:新民晚报 金志刚

题图来源:采访对象提供

图片来源:采访对象提供

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
陕西女警花卧底被揪出,被歹徒折磨7天解救:人都已经垮了

陕西女警花卧底被揪出,被歹徒折磨7天解救:人都已经垮了

罪案洞察者
2025-03-07 08:59:25
英伟达董事会批准增加1500亿美元股票回购计划

英伟达董事会批准增加1500亿美元股票回购计划

每日经济新闻
2026-11-18 05:37:03
亚太经合组织工商领导人峰会开幕式即将举行

亚太经合组织工商领导人峰会开幕式即将举行

界面新闻
2026-11-18 09:46:11
高圆圆和当时的男友于小伟在北京一处老式居民楼下的留影

高圆圆和当时的男友于小伟在北京一处老式居民楼下的留影

娱你同欢
2026-11-13 22:28:44
若非卢璐发长文,没人知道,刘欢有6位生死之交,个个可托付后事

若非卢璐发长文,没人知道,刘欢有6位生死之交,个个可托付后事

秋姐居
2026-11-18 09:58:28
江苏一老人因忘带钥匙徒手爬2楼窗户回家,全程无任何保护,物业回应:老人70岁左右,已当面告知此行为不妥,并向公安部门报备

江苏一老人因忘带钥匙徒手爬2楼窗户回家,全程无任何保护,物业回应:老人70岁左右,已当面告知此行为不妥,并向公安部门报备

洪观新闻
2026-11-17 20:21:52
冬天这3种“化痰水” 要使劲喝,挖出老痰,喉咙干净,人都精神了

冬天这3种“化痰水” 要使劲喝,挖出老痰,喉咙干净,人都精神了

花小厨
2026-11-17 13:55:30
沙特老国王绕过王储萨勒曼,他本人一声令下,前线大将被解除军权

沙特老国王绕过王储萨勒曼,他本人一声令下,前线大将被解除军权

影孖看世界
2026-11-17 22:21:29
看到满头白发的自己,袭燕会不会后悔呢?

看到满头白发的自己,袭燕会不会后悔呢?

娱乐小可爱蛙
2026-11-18 04:38:16
利好来了!刚刚,全线拉升!英伟达,重大发布

利好来了!刚刚,全线拉升!英伟达,重大发布

证券时报
2026-11-18 07:54:37
并购完成,李飞飞正式率队加入AMD!苏妈亲自欢迎

并购完成,李飞飞正式率队加入AMD!苏妈亲自欢迎

量子位
2026-11-17 22:10:47
油价,闪崩!

油价,闪崩!

业翔民安
2026-11-17 11:21:41
“保证新老师不怀孕”?人民锐评:奇葩举报当休,家校共护师道

“保证新老师不怀孕”?人民锐评:奇葩举报当休,家校共护师道

澎湃新闻
2026-11-18 08:00:06
美股芯片股跌幅再度扩大,英伟达股价下跌2.33%,美光科技股价下跌4.06%

美股芯片股跌幅再度扩大,英伟达股价下跌2.33%,美光科技股价下跌4.06%

每日经济新闻
2026-11-17 23:45:11
林葳20分、王俊杰28分,为什么枯坐冷板凳的郇斯楠最被看好冲击NBA?

林葳20分、王俊杰28分,为什么枯坐冷板凳的郇斯楠最被看好冲击NBA?

篮球圈里的那些事
2026-11-17 21:01:04
张飞二儿子投靠西晋,可刘禅死后他却给晋武帝上书:我要给他守陵

张飞二儿子投靠西晋,可刘禅死后他却给晋武帝上书:我要给他守陵

白云故事
2025-11-06 14:25:03
钱再多有什么用,65岁郎平如今的现状,给所有运动员们提了个醒

钱再多有什么用,65岁郎平如今的现状,给所有运动员们提了个醒

墨策讲历史
2026-11-04 22:47:01
蔡英文任命的台军前“防长”冯世宽,公开与台独分子划清界限:

蔡英文任命的台军前“防长”冯世宽,公开与台独分子划清界限:

果妈聊娱乐
2026-11-16 11:34:10
为什么乡镇叫党委,街道叫党工委?

为什么乡镇叫党委,街道叫党工委?

网观天下
2026-11-16 07:34:12
轮毂装反风波过后,比亚迪悬赏最高500万打击黑公关

轮毂装反风波过后,比亚迪悬赏最高500万打击黑公关

历史总在押韵
2026-11-17 05:45:13
2026-11-18 10:32:49
上观新闻 incentive-icons
上观新闻
站上海,观天下
555351文章数 765227关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

雷军在深圳发言被调侃"有点社恐" 小米:紧张太正常啦

头条要闻

雷军在深圳发言被调侃"有点社恐" 小米:紧张太正常啦

体育要闻

东契奇心仪之人 三年后拿着底薪站到他身旁

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

回归英伟达,黄仁勋要先“干掉董事会”

汽车要闻

奕境X9纯电版信息曝光 将于11月27日广州车展上市

态度原创

数码
时尚
家居
房产
手机

数码要闻

大疆多款产品涨价 Osmo Pocket 4系列最高涨560元

西北最贵专列?从西宁到敦煌的“丝路梦享列车”到底值不值?

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

5381亩之后,三亚绿谷,等一个500强!

手机要闻

小米18亮相APEC,雷军一句话没讲,行业却炸锅了

无障碍浏览 进入关怀版