网易首页 > 网易号 > 正文 申请入驻

从“影子AI”到大模型投毒,如何破解AI供应链攻击风险?

0
分享至

随着大模型、AI智能体在企业生产、办公、业务系统大规模落地,企业AI部署形态日趋多元。与此同时,AI供应链攻击风险持续攀升,第三方开源模型、AI插件、技能文件已经成为攻击者的重要突破口。

卡巴斯基的一项统计数据显示,2026年上半年,卡巴斯基已检测到超过9.2万次伪装成Al服务的恶意攻击。自2026年2月起,卡巴斯基开始扫描系统上的OpenClaw Skills活动。目前每月能检测到超过两万次恶意OpenClaw Skills活动事件。

针对上述现状,卡巴斯基近期在广州正式推出面向AI原生安全的全新解决方案卡巴斯基AI Protect(KAIP)。据介绍,该产品聚焦AI供应链风险、大模型文件投毒、恶意AI Agent等新型威胁,兼顾传统网络攻击防御,旨在帮助企业实现AI业务创新与风险管控并行发展。

AI通过供应链、绕过管控等方式威胁企业

公开威胁数据显示,网络平台已出现上百个恶意大模型、数百个遭投毒的模型文件;攻击者上传伪装成正常权重文件的恶意模型,加载即可执行恶意指令,直接入侵企业内网业务系统。

具体到目前的危机来源,卡巴斯基大中华区CTO张殷提出,目前企业普遍面临着来自AI供应链、“影子AI”等层面的危机。


卡巴斯基大中华区CTO张殷

AI供应链即大多数企业不具备自研大模型能力、普遍依赖第三方开源模型。在这种情况下,一旦模型被投毒成功,模型就会被攻击者控制。他进一步指出,供应链早已成为攻击者重点瞄准的环节。企业从互联网下载并加载第三方模型或技能(Skill)时,看似在执行正常任务,实则可能正在为攻击者窃取企业密钥、登录凭证和敏感配置信息,并直接外传至互联网,而企业在这一过程中往往毫无察觉。

另外,“影子AI”也成为威胁之一。“影子AI”即员工普遍对AI工具抱有热情、但企业未统一配置AI工具时员工自行安装使用。张殷认为,此类风险源于双重缺位的叠加:一方面企业对AI使用的管控不到位,另一方面员工的安全意识同样不到位,两者叠加导致泄密事件陆续发生。

他举例称,此前攻击者曾通过某模型聊天软件的聊天界面,直接就能看到其他用户的完整对话记录。无论海外还是国内的模型,一旦被入侵,模型底层的日志便可被尽数捞取,用户与模型的私密对话一览无余。

“龙虾”、skill等产品带来新的威胁进入点

卡巴斯基大中华区总经理郑启良在现场提到,国内AI产业已迈入经济主战场,企业正加速推进AI落地。但他看到企业优先追求业务上线效率,却容易低估AI供应链安全、模型投毒、恶意智能体、提示注入攻击等现实威胁,而这类风险已直接影响企业经营损益。与此同时,还有不少企业存在认知误区,误以为私有化部署大模型就足够安全,忽视外部模型权重、AI插件与技能脚本潜藏的恶意载荷。

郑启良在会后接受媒体采访时表示,尽管AI可以处理99%的攻击,但最终还有1%的攻击是AI无法胜任的,AI没有办法替代安全公司,但却可以为AI公司带来更多的生意。

近期,国内外有不少模型企业也在做模型安全。郑启良告诉南都记者,“龙虾”、skill这样的产品的出现也带来了新的威胁进入点,这可能是大家开始密集关注AI安全的原因。“现在大家都认为智能体无所不能,只要训练、投入很小,什么事情都可以去做。变成说进入成本非常低,那它就很容易被投毒。对企业内部运维来说,这是一个薄弱点,在做信息安全、网络安全的人都会考虑到,这种突破口越少越好,暴露在外头越少越好”。

他进一步表示,模型公司与安全公司之间的关系是相互合作,目前也与多家模型厂商在合作中。“很多模型厂商在做算法的时候,也会考量什么时候可能会‘出格’,什么时候要重新设计。对安全这一块我想是‘术业有专攻’。当然我们也在训练自己的内部大模型。”

此外,目前,阿里云、腾讯云、华为云等国内云厂商均为卡巴斯基客户,其安全引擎、红蓝对抗、渗透测试等环节仍需采购专业能力。据悉,在与国内企业合作时,双方会互相检测对方的硬件和软件,从源头上减少安全隐患。

卡巴斯基是一家成立于1997年的全球网络安全与数字隐私公司,迄今为止已有超过十亿台设备受到卡巴斯基的保护。据了解,目前卡巴斯基在华业务一直处于扩张状态,仅在过去2年,卡巴斯基就增加了1/3的人员,去年中国区营收业绩增速超过20%。

采写:南都N视频记者 林文琪

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
兰州监狱服刑者非正常死亡案再审一审宣判:四狱警分别被判处有期徒刑11年6个月、5年、5年、5年,“疑点利益”不归“毁尸灭迹”者

兰州监狱服刑者非正常死亡案再审一审宣判:四狱警分别被判处有期徒刑11年6个月、5年、5年、5年,“疑点利益”不归“毁尸灭迹”者

大风新闻
2026-11-18 14:36:05
我们穷得连黑社会头子,都只是个3000月薪的看门保安

我们穷得连黑社会头子,都只是个3000月薪的看门保安

家传编辑部
2026-11-19 13:22:01
他接受纪律审查和监察调查

他接受纪律审查和监察调查

锡望
2026-11-19 17:06:18
气场拉满!何超琼亮相深圳 APEC,三套穿搭简约高级,64 岁一头白发坦然展露,这份沉淀下来的富贵感藏不住

气场拉满!何超琼亮相深圳 APEC,三套穿搭简约高级,64 岁一头白发坦然展露,这份沉淀下来的富贵感藏不住

秋风妃
2026-11-19 21:17:04
援乌阵营开始散伙?两国同日翻脸,泽连斯基头疼了!

援乌阵营开始散伙?两国同日翻脸,泽连斯基头疼了!

麓谷隐士
2026-11-17 00:05:10
不准中国接俄,也不准中国收台,更不准管制稀土。七国集团曾明确指出,中国不能援助俄罗斯,不能以武力改变台海现状,也不能限制稀土出口

不准中国接俄,也不准中国收台,更不准管制稀土。七国集团曾明确指出,中国不能援助俄罗斯,不能以武力改变台海现状,也不能限制稀土出口

扶苏聊历史
2026-11-18 15:55:59
三国元首用和平宣言回应关切 这90分钟载入史册

三国元首用和平宣言回应关切 这90分钟载入史册

看看新闻Knews
2026-11-20 01:36:40
中俄美元首和平宣言

中俄美元首和平宣言

澎湃新闻
2026-11-19 19:09:21
绝非客套!西班牙主帅公开警惕国足U17:这支亚洲劲旅极度危险

绝非客套!西班牙主帅公开警惕国足U17:这支亚洲劲旅极度危险

林子说事
2026-11-19 14:46:50
台湾飞行员黄植诚起义后娶了空姐,8年后她前往美国再也没回来,安全部门半夜围了住处,谁也没想到最后在卧室搜出了这个

台湾飞行员黄植诚起义后娶了空姐,8年后她前往美国再也没回来,安全部门半夜围了住处,谁也没想到最后在卧室搜出了这个

磊子讲史
2026-11-16 14:38:55
“保不住香港,我们以死谢罪!”,解密惊心动魄的香港经济保卫战

“保不住香港,我们以死谢罪!”,解密惊心动魄的香港经济保卫战

文史道
2025-02-18 20:31:56
油价大降0.52元/升后“再大降”,下次11月26日调价,倒计时7天!

油价大降0.52元/升后“再大降”,下次11月26日调价,倒计时7天!

猪友巴巴
2026-11-19 09:14:41
美国、俄罗斯、欧洲猛然发现一件头疼事:低估了中国,高估了自己

美国、俄罗斯、欧洲猛然发现一件头疼事:低估了中国,高估了自己

文史达观
2025-03-27 12:59:20
发现一个规律:如果是长期不祭祖的家庭,过个十年八年,会有变化

发现一个规律:如果是长期不祭祖的家庭,过个十年八年,会有变化

兴趣知识
2026-11-20 01:01:09
风向变了?明年起,按摩、洗浴、足疗店或将迎来重大变化?

风向变了?明年起,按摩、洗浴、足疗店或将迎来重大变化?

史之铭
2026-11-19 01:44:05
当记忆的线缠绕过往支离破碎,你是否还会记得?

当记忆的线缠绕过往支离破碎,你是否还会记得?

疾跑的小蜗牛
2026-11-19 19:23:01
参加完APEC晚宴的普京返回深圳前海下榻酒店,该酒店是知名网红地标,坐拥一线海景;此前特朗普车队也已抵达下榻酒店,市民在周边热情等候

参加完APEC晚宴的普京返回深圳前海下榻酒店,该酒店是知名网红地标,坐拥一线海景;此前特朗普车队也已抵达下榻酒店,市民在周边热情等候

极目新闻
2026-11-19 01:03:13
现货黄金跌破3700美元关口

现货黄金跌破3700美元关口

每日经济新闻
2026-11-19 11:18:07
台湾不愿意接受“一国两制”,王毅外长曾对此回应,那就满足你们

台湾不愿意接受“一国两制”,王毅外长曾对此回应,那就满足你们

叶葉夜
2026-11-19 11:29:23
娃哈哈代工厂48小时免职207人,大规模人事变动疑云丛生丨大象财富

娃哈哈代工厂48小时免职207人,大规模人事变动疑云丛生丨大象财富

大象新闻
2026-11-19 18:43:03
2026-11-20 02:11:00
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
644389文章数 3591437关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

本地
旅游
数码
公开课
军事航空

本地新闻

乌兰察布:以前种土豆,现在种Token

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版