网易首页 > 网易号 > 正文 申请入驻

从“影子AI”到大模型投毒,如何破解AI供应链攻击风险?

0
分享至

随着大模型、AI智能体在企业生产、办公、业务系统大规模落地,企业AI部署形态日趋多元。与此同时,AI供应链攻击风险持续攀升,第三方开源模型、AI插件、技能文件已经成为攻击者的重要突破口。

卡巴斯基的一项统计数据显示,2026年上半年,卡巴斯基已检测到超过9.2万次伪装成Al服务的恶意攻击。自2026年2月起,卡巴斯基开始扫描系统上的OpenClaw Skills活动。目前每月能检测到超过两万次恶意OpenClaw Skills活动事件。

针对上述现状,卡巴斯基近期在广州正式推出面向AI原生安全的全新解决方案卡巴斯基AI Protect(KAIP)。据介绍,该产品聚焦AI供应链风险、大模型文件投毒、恶意AI Agent等新型威胁,兼顾传统网络攻击防御,旨在帮助企业实现AI业务创新与风险管控并行发展。

AI通过供应链、绕过管控等方式威胁企业

公开威胁数据显示,网络平台已出现上百个恶意大模型、数百个遭投毒的模型文件;攻击者上传伪装成正常权重文件的恶意模型,加载即可执行恶意指令,直接入侵企业内网业务系统。

具体到目前的危机来源,卡巴斯基大中华区CTO张殷提出,目前企业普遍面临着来自AI供应链、“影子AI”等层面的危机。


卡巴斯基大中华区CTO张殷

AI供应链即大多数企业不具备自研大模型能力、普遍依赖第三方开源模型。在这种情况下,一旦模型被投毒成功,模型会被攻击者控制。他进一步指出,供应链早已成为攻击者重点瞄准的环节。企业从互联网下载并加载第三方模型或技能(Skill)时,看似在执行正常任务,实则可能正在为攻击者窃取企业密钥、登录凭证和敏感配置信息,并直接外传至互联网,而企业在这一过程中往往毫无察觉。

另外,“影子AI”也成为威胁之一。AI员工普遍对AI工具抱有热情企业未统一配置AI工具时员工自行安装使用。张殷认为,此类风险源于双重缺位的叠加:一方面企业对AI使用的管控不到位,另一方面员工的安全意识同样不到位,两者叠加导致泄密事件陆续发生。

他举例称,此前攻击者曾通过某模型聊天软件的聊天界面,直接就能看到其他用户的完整对话记录。无论海外还是国内的模型,一旦被入侵,模型底层的日志便可被尽数捞取,用户与模型的私密对话一览无余。

“龙虾”、skill等产品带来新的威胁进入点

卡巴斯基大中华区总经理郑启良在现场提到,国内AI产业已迈入经济主战场,企业正加速推进AI落地。但他看到企业优先追求业务上线效率,却容易低估AI供应链安全、模型投毒、恶意智能体、提示注入攻击等现实威胁,而这类风险已直接影响企业经营损益。与此同时,还有不少企业存在认知误区,误以为私有化部署大模型就足够安全,忽视外部模型权重、AI插件与技能脚本潜藏的恶意载荷。

郑启良在会后接受媒体采访时表示,尽管AI可以处理99%的攻击,但最终还有1%的攻击是AI无法胜任的,AI没有办法替代安全公司,但却可以为AI公司带来更多的生意。

近期,国内外有不少模型企业也在做模型安全。郑启良告诉南都记者,“龙虾”、skill这样的产品的出现也带来了新的威胁进入点,这可能是大家开始密集关注AI安全的原因。“现在大家都认为智能体无所不能,只要训练、投入很小,什么事情都可以去做。变成说进入成本非常低,那它就很容易被投毒。对企业内部运维来说,这是一个薄弱点,在做信息安全、网络安全的人都会考虑到,这种突破口越少越好,暴露在外头越少越好”。

他进一步表示,模型公司与安全公司之间的关系是相互合作,目前也与多家模型厂商在合作中。“很多模型厂商在做算法的时候,也会考量什么时候可能会‘出格’,什么时候要重新设计。对安全这一块我想是‘术业有专攻’。当然我们也在训练自己的内部大模型。”

此外,目前,阿里云、腾讯云、华为云等国内云厂商均为卡巴斯基客户,其安全引擎、红蓝对抗、渗透测试等环节仍需采购专业能力。据悉,在与国内企业合作时,双方会互相检测对方的硬件和软件,从源头上减少安全隐患。

卡巴斯基是一家成立于1997年的全球网络安全与数字隐私公司,迄今为止已有超过十亿台设备受到卡巴斯基的保护。据了解,目前卡巴斯基在华业务一直处于扩张状态,仅在过去2年,卡巴斯基就增加了1/3的人员,去年中国区营收业绩增速超过20%。

采写:南都N视频记者 林文琪

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
86岁奶奶坚持举铁:肌肉,才是晚年最大底气!5个居家动作照着练就行

86岁奶奶坚持举铁:肌肉,才是晚年最大底气!5个居家动作照着练就行

人民日报健康客户端
2026-09-09 07:35:58
江西72岁大爷飞往非洲见初恋,见面才知自己儿孙满堂:我对不起你

江西72岁大爷飞往非洲见初恋,见面才知自己儿孙满堂:我对不起你

第四思维
2025-07-22 13:49:58
一针没打的280万人,2026年身体真相曝光

一针没打的280万人,2026年身体真相曝光

华庭讲美食
2026-08-26 01:21:08
罕见!深圳、广州、东莞、佛山,集体出手抢人了

罕见!深圳、广州、东莞、佛山,集体出手抢人了

城市财经
2026-09-18 11:55:09
中方通报波兰,绝不承认裁决,中方可追责两国,巴丹归属摆上台面

中方通报波兰,绝不承认裁决,中方可追责两国,巴丹归属摆上台面

军机Nova
2026-09-19 00:08:27
卡尼在利物浦宣布:加拿大申请加入十国联合远征军,英国支持

卡尼在利物浦宣布:加拿大申请加入十国联合远征军,英国支持

七堇年a
2026-09-17 18:32:15
民调:76%俄公民认为,在即将到来的选举中,统一俄罗斯党将获胜

民调:76%俄公民认为,在即将到来的选举中,统一俄罗斯党将获胜

冰语历史
2026-09-18 16:10:41
扛不住了?延迟退休实施至今,一个尴尬的问题终于暴露出来了

扛不住了?延迟退休实施至今,一个尴尬的问题终于暴露出来了

老黯谈娱
2026-09-19 18:28:36
部队统一为军人配发的这双鞋,现实里几乎看不到有人穿着,为什么

部队统一为军人配发的这双鞋,现实里几乎看不到有人穿着,为什么

战域笔墨
2026-09-19 11:25:19
盘点NBA历史7组黄金搭档,水花兄弟第5,OK组合第3,第1无悬念

盘点NBA历史7组黄金搭档,水花兄弟第5,OK组合第3,第1无悬念

弄月公子
2026-09-19 19:23:04
无视亚马尔姆巴佩!皇马传奇语出惊人!力挺 39 岁梅西拿下金球奖

无视亚马尔姆巴佩!皇马传奇语出惊人!力挺 39 岁梅西拿下金球奖

澜归序
2026-09-19 08:29:47
重庆南山最大烂尾别墅群!5折才卖掉一栋,荒成“空城”

重庆南山最大烂尾别墅群!5折才卖掉一栋,荒成“空城”

GA环球建筑
2026-09-19 14:55:33
德天空:孔帕尼赛后要求凯恩、奥利塞等4人进行了简短的演讲

德天空:孔帕尼赛后要求凯恩、奥利塞等4人进行了简短的演讲

懂球帝
2026-09-19 12:08:25
陪睡陪玩只是开胃菜,舔手指塞拳头、集体嫖娼、背后的事藏不住了

陪睡陪玩只是开胃菜,舔手指塞拳头、集体嫖娼、背后的事藏不住了

北海史记
2026-08-12 19:57:54
WTT球星赛爆冷!女单4强赛对阵,日本名将轰11-0,王艺迪强势横扫

WTT球星赛爆冷!女单4强赛对阵,日本名将轰11-0,王艺迪强势横扫

帛河体育
2026-09-19 16:54:58
曝一位95后男星被送来送去,成为男大佬的共享金丝雀,女星当中介

曝一位95后男星被送来送去,成为男大佬的共享金丝雀,女星当中介

荒野老五
2026-09-16 22:42:33
“童子相,养不大!”一家五口合照火了,可这夸赞却很不对味

“童子相,养不大!”一家五口合照火了,可这夸赞却很不对味

妍妍教育日记
2026-09-18 16:58:28
“2.3万元的LV新包,竟出了这种事!”上海买家直呼太委屈:直接跌价、心里郁闷……不少消费者有同款遭遇

“2.3万元的LV新包,竟出了这种事!”上海买家直呼太委屈:直接跌价、心里郁闷……不少消费者有同款遭遇

北青网-北京青年报
2026-09-17 19:45:05
事态已经全面升级!赖清德有可能成为新中国历史上,唯一一位在任台湾地区领导人中出现重大变故的人物

事态已经全面升级!赖清德有可能成为新中国历史上,唯一一位在任台湾地区领导人中出现重大变故的人物

人生录
2026-09-11 00:05:21
医生朋友一句话点醒我:敬一丹的脑溢血,根本不是“突然”发生的

医生朋友一句话点醒我:敬一丹的脑溢血,根本不是“突然”发生的

观星赏月
2026-09-18 07:46:35
2026-09-19 20:00:49
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
633772文章数 3590577关注度
往期回顾 全部

科技要闻

要走650亿,智谱的理想越来越贵

头条要闻

亚运会运动员吐槽吃不饱 韩国运动员发文"救救我们"

头条要闻

亚运会运动员吐槽吃不饱 韩国运动员发文"救救我们"

体育要闻

2026亚运会开幕式 胡明轩吴愉担任旗手

娱乐要闻

自毁前途5年赵薇露面!家境被扒出

财经要闻

江西首富破产:一张927万商票压垮千亿帝国

汽车要闻

大块头的从容 红旗G919如何兼顾豪华与越野能力

态度原创

房产
健康
旅游
教育
时尚

房产要闻

海口房价,降不动了!

脑动脉瘤的治疗方法,该选哪一种?

旅游要闻

阿坝州首条无动力山地滑车项目落地 达古冰川“云中飞车”正式运营

教育要闻

重大变化!成都市教育局发布随迁子女入学政策,绵阳会跟进吗?

西装+,最适合在十月穿!

无障碍浏览 进入关怀版