网易首页 > 网易号 > 正文 申请入驻

独家 | 360联合清华大学发布全球首份智能体安全报告,曝光20+漏洞!

0
分享至

当前,人工智能正迈入规模化应用落地阶段,智能体(AI Agent)作为具备环境感知、自主决策、任务执行等核心能力的智能化实体,呈现出多样化发展趋势。与此同时,智能体带来的安全风险也与日俱增。

近日,360联合清华大学发布全球首份漏洞视角的《智能体安全实践报告》,通过典型攻击面梳理和漏洞挖掘研究,深入分析智能体全生命周期链路各个场景的安全风险。结合360安全智能体的高效代码分析能力以及特有的特征库,发现并分析了智能体相关开源项目漏洞20余个,其中不乏被广泛使用的Github高星项目,旨在提供智能体安全的综合性视角,为智能体安全生态的持续、积极发展贡献力量。

框架层藏开发隐患

易成攻击突破口

智能体架构通常由模型、工具、编排三个主要组件构成,开发框架则以模块化、可扩展性和快速编排能力为核心,提供一系列预设工具和基础功能,进而简化了智能体的构建与部署流程,提升了整体开发效率。但框架中的潜在安全问题也提供了额外的攻击向量,使其变为恶意攻击者通过网络发起攻击的“帮凶”。

报告指出,智能体开发框架无论是仅建立在本地服务,或是部署在云端的接口,都存在着从远程被攻破的可能。一方面,启动本地服务的开发框架通常默认所有的请求都是可信任的,缺少对请求发起方的身份验证以及对请求中包含数据的二次验证,极易成为攻击者横向渗透的目标,且存在经由浏览器转发请求从而进行远程攻击的可能;另一方面,部署在云端的接口中一旦存在漏洞,攻击者就能利用它来影响整个业务系统的安全。

生态层现协同风险

安全边界模糊

随着业务复杂度的提升,参与到智能体系统运作中的成员日益复杂,智能体系统对多角色、多工具的整合能力使其安全边界愈发模糊。而智能体通过自然语言形式来驱动的特性,使其天然易受外界的干扰和影响。

报告指出,在智能体系统中,大模型通常作为核心感知与决策模块,大模型的输出结果在很大程度上决定了智能体的行为走向,智能体的正确推理和响应很大程度上也依赖于可靠的输入信息。因此,攻击者可以通过操纵大模型生成包含恶意内容或错误流程的响应,从而间接影响智能体的行为。

此外,随着MCP(Model Context Protocol)规范提出了大模型与工具之间的通用通信框架,极大拓展了智能体的能力边界,智能体接入的工具愈发复杂多样,调用链条越来越长,MCP Server投毒、MCP Server远程风险、MCP Client恶意请求等一系列安全风险也随之显现。

沙箱层存配置盲区

亟需多层级防护

为了避免智能体在应用过程中的操作风险,通常会使用沙箱隔离方案,即将智能体调用工具的执行环境与真实系统分离,在沙箱内完成操作指令后,将执行结果返回大模型,从而保障工具调用的安全性。

然而,当前主流沙箱虽能快速构建文件系统与代码执行的隔离环境,却普遍缺乏对智能体应用场景的精细化配置,无法完全保障隔离效果的可靠性。此外,沙箱自身存在的安全漏洞也可能成为新的攻击入口,进一步影响智能体整体安全。

以模制模

360安全智能体守护智能体安全

报告指出,智能体的全生命周期安全风险呈现多维性、隐蔽性和系统性特征,其安全威胁渗透在开发、测试、部署和运营等一系列的流程中,只有将安全性作为智能体技术演进的核心指标,而非事后补救的附加功能,才能推动智能体真正成为人类社会的可靠伙伴。

作为国内唯一兼具数字安全和人工智能双重能力的企业,360不仅较早开始关注大模型安全风险,同时打造了首个实现实战应用的安全智能体——360安全智能体。基于“以模制模”理念,360以安全智能体为核心构建大模型安全解决方案,涵盖智鉴、智盾、智搜、智控等多款产品,利用AI来检测和防范大模型可能出现的安全风险,全流程守护AI落地应用的全生命周期安全可控。既解决了传统网络安全问题,又为攻克AI安全新挑战提供了可行性方案。

随着人工智能发展进入“下半场”,智能体成为推动产业变革的核心力量。站在技术与产业融合的关键节点,唯有以创新思维重塑安全体系,将“以模制模”理念融入智能体发展全生命周期,才能真正保障智能体安全运行,推动其发挥核心作用,加速产业在智能化浪潮中行稳致远。

如要了解更多详情

欢迎尽快联系咨询

400-0309-360

01

● 周鸿祎上合数字经济论坛演讲:开放协作共筑全球数字经济安全屏障

02

● 行业第一!权威机构双报告首推!360安全智能体定义安全+AI新标杆

03

●360安全智能体2025H1成绩单 | 技术突破引领行业,实战应用全面开花

04

● 破局新质人才培育!360与毕节职院共筑贵州产业升级人才基座

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
宁德时代麒麟凝聚态电池发布,最高续航1500公里

宁德时代麒麟凝聚态电池发布,最高续航1500公里

新京报
2026-04-21 20:38:22
老人不要拼命追求长寿,该走就走,60岁去世和80岁去世没本质区别

老人不要拼命追求长寿,该走就走,60岁去世和80岁去世没本质区别

暖风吹过竹林
2026-04-22 08:11:22
中央5台直播乒乓时间表:4月22日CCTV5转播国乒!附国乒出征消息

中央5台直播乒乓时间表:4月22日CCTV5转播国乒!附国乒出征消息

八斗小先生
2026-04-22 12:14:04
中国电车,终究是抵抗不了

中国电车,终究是抵抗不了

南风窗
2026-04-21 15:02:29
CBA季后赛局势已明朗!辽粤沪3队进死亡半区:广厦或成最大赢家?

CBA季后赛局势已明朗!辽粤沪3队进死亡半区:广厦或成最大赢家?

篮球快餐车
2026-04-22 00:17:00
功莫大于斩首,计莫毒于绝粮——特朗普双向封锁,欲困死伊朗?

功莫大于斩首,计莫毒于绝粮——特朗普双向封锁,欲困死伊朗?

高博新视野
2026-04-21 08:00:23
网购完剩下的“快递气柱袋”都能拿来干嘛?网友的点子,绝了

网购完剩下的“快递气柱袋”都能拿来干嘛?网友的点子,绝了

美家指南
2026-04-20 16:05:59
这才是宋美龄和继子蒋经国的一张真实合影,都是真人的容貌

这才是宋美龄和继子蒋经国的一张真实合影,都是真人的容貌

喜欢历史的阿繁
2026-04-16 11:17:28
马云的预言应验了?手机扫码付款或将淘汰?全新的支付方式到来了

马云的预言应验了?手机扫码付款或将淘汰?全新的支付方式到来了

猫叔东山再起
2026-04-22 10:30:08
乌度卡:杜兰特被包夹带来了机会,但申京连续两场打得太犹豫

乌度卡:杜兰特被包夹带来了机会,但申京连续两场打得太犹豫

懂球帝
2026-04-22 15:35:10
乌度卡想让湖人赢就直说!包夹詹姆斯让出胜利,对4将运用全错!

乌度卡想让湖人赢就直说!包夹詹姆斯让出胜利,对4将运用全错!

篮球资讯达人
2026-04-22 13:59:24
不再是120/80,“新血压标准”已公布,别再自己吓自己!

不再是120/80,“新血压标准”已公布,别再自己吓自己!

芹姐说生活
2026-04-14 23:27:03
曾经那些真实的特供,超出普通人的想象…

曾经那些真实的特供,超出普通人的想象…

深度报
2026-04-21 22:56:47
77年首例!第一个退出北约的国家要来了?退群公投已“箭在弦上”

77年首例!第一个退出北约的国家要来了?退群公投已“箭在弦上”

百科密码
2026-04-21 15:22:17
80万买“东风猛士”变“中悦牌” 高速抛锚B柱开裂维权难

80万买“东风猛士”变“中悦牌” 高速抛锚B柱开裂维权难

大象新闻
2026-04-20 16:27:04
许家印认罪!2.4万亿窟窿,家族只拿走500亿,其余真金白银去哪了

许家印认罪!2.4万亿窟窿,家族只拿走500亿,其余真金白银去哪了

小嵩
2026-04-20 13:52:49
退休安排有变!公务员弹性延迟退休取消,新方案已确定

退休安排有变!公务员弹性延迟退休取消,新方案已确定

一口娱乐
2026-04-22 05:02:00
1979年打越南,高层其实吵翻了天?叶剑英粟裕为何反对出兵?

1979年打越南,高层其实吵翻了天?叶剑英粟裕为何反对出兵?

勇哥读史
2026-04-21 07:52:13
重庆地铁9号线幼童车厢小便引争议,网友:可以理解但不应该

重庆地铁9号线幼童车厢小便引争议,网友:可以理解但不应该

大风新闻
2026-04-22 12:15:02
中方不再伺候了!对荷光刻机优待全部取消,450亿芯片不做了!

中方不再伺候了!对荷光刻机优待全部取消,450亿芯片不做了!

泠泠说史
2026-04-21 21:13:01
2026-04-22 16:31:00
360企业安全
360企业安全
360出品,聚焦网络信息安全
1679文章数 103关注度
往期回顾 全部

科技要闻

对话梅涛:没有视频底座,具身智能走不远

头条要闻

媒体:爱奇艺AI艺人库惹众怒 CEO龚宇的解释站不住脚

头条要闻

媒体:爱奇艺AI艺人库惹众怒 CEO龚宇的解释站不住脚

体育要闻

网易传媒再度签约法国队和阿根廷队

娱乐要闻

复婚无望!baby黄晓明陪小海绵零交流

财经要闻

伊朗拒绝出席 特朗普宣布延长停火期限

汽车要闻

纯电续航301km+激光雷达 宋Pro DM-i飞驰版9.99万起

态度原创

本地
手机
游戏
艺术
公开课

本地新闻

春色满城关不住|白鹃梅浪漫盛放,吴山藏了一片四月雪

手机要闻

vivo连续七季第一,苹果首进前五,OPPO暴增21%

《武林志》公布新版本更新前瞻:内容完全免费更新,全面优化玩法体验

艺术要闻

无花不风景

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版