网易首页 > 网易号 > 正文 申请入驻

违规使用开源AI工具 敏感资料被泄露 案例解读→

0
分享至

来源:央视新闻客户端

当前,AI大模型赋能千行百业,这位能干又贴心的“数字伙伴”正加速融入我们的日常生活。当AI的触角延伸越广、嵌入越深,一些风险也随之而来。来看国家安全部近日披露的案例。

国家安全部近日披露案例,个别单位因直接使用开源框架建立联网大模型,导致攻击者未经授权即可自由访问内部网络,从而引发数据泄露和安全风险。

案例显示,某单位工作人员在处理内部文件时,违规使用开源AI工具,由于电脑系统默认开启公网访问且未设密码,导致敏感资料被境外IP非法访问和下载。

何为“开源大模型”?有哪些安全隐患?

刚才提到的开源框架大模型指的是什么?存在哪些安全隐患?我们来听专家的解读。

中国网络空间安全协会人工智能安全治理专业委员会委员 王媛媛:开源大模型是指将模型的架构、参数、训练数据公开给客户免费使用的人工智能模型,目前互联网上开放的开源大模型是非常多的,有的擅长推理,有的擅长编写代码,有的擅长处理文本,还有的擅长处理影像等等。比如说给它一个体检报告,可以帮助我分析我的身体有什么样的异常,应该如何进行调整,会给我一些非常专业的建议。

专家表示,网民在使用AI工具时,往往忽略了一个问题,就是AI工具有储存数据的功能。网民投喂给AI的任何文件、图片等数据,AI都会进行存储。

中国网络空间安全协会人工智能安全治理专业委员会委员 王媛媛:数据安全其实是开源大模型最大的隐患,这很可能会被大家忽略。那么上传到开源大模型的任何数据,大模型自身都会进行存储,这是它的工作原理,因为只有这样才能对数据做分析。如果把公司内部比较机密的一些数据上传到开源大模型,实际上这些数据已经面临了泄露的风险。

网民将敏感数据投喂给AI工具后,这些被AI存储的数据是如何泄露的呢?

首先这些数据对AI工具的开发者是完全开放的,开发者可以利用权限看到这些数据。另外,目前AI工具很多都是开源的,黑客也会利用大模型本身漏洞攻击入侵大模型后台,获得数据。

保护数据安全 切勿给AI工具投喂敏感数据

AI工具具有数据存储功能,因此专家提醒,在日常使用中,切勿给AI工具投喂敏感数据。

中国网络空间安全协会人工智能安全治理专业委员会委员 王媛媛:一方面在日常作为普通的网民,在正常使用互联网开源大模型的时候,要注意不要将个人的敏感信息、隐私信息上传到开源大模型中。

另外企业在使用开源大模型的时候,在训练自己的数据的时候,要注意一定要做到私有化部署的方式,也就是将所有的数据都保存在本地,这样就不会把一些内部的数据上传到互联网上了。但是这样的私有化部署的方式,相应地也要投入一些基础设施和专业的团队来进行维护。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
查了查郑丽文的老公,这不查不知道,一查真是让我瞬间明白了许多

查了查郑丽文的老公,这不查不知道,一查真是让我瞬间明白了许多

风流女汉
2026-11-16 16:46:08
这是中国最不要脸的一个群体,无耻之极,世所罕见!

这是中国最不要脸的一个群体,无耻之极,世所罕见!

晓楖科普
2026-11-11 13:09:39
乌克兰媒体确认了:乌克兰总统泽连斯基明确表态,乌克兰不会放弃本国领土,乌克兰不会撤退、不会向俄罗斯出让土地

乌克兰媒体确认了:乌克兰总统泽连斯基明确表态,乌克兰不会放弃本国领土,乌克兰不会撤退、不会向俄罗斯出让土地

吉刻新闻
2026-11-15 08:10:56
穆帅的眼光太准!皇马球迷正在认知到穆帅早已知道的一点:库库雷利亚名气不耀眼,防守很硬核,能给皇马左路带来底气!

穆帅的眼光太准!皇马球迷正在认知到穆帅早已知道的一点:库库雷利亚名气不耀眼,防守很硬核,能给皇马左路带来底气!

福酱的小时光
2026-11-16 07:46:41
5场仅踢18分钟!葡萄牙32岁新队长不满热苏斯,效仿C罗,退出集训

5场仅踢18分钟!葡萄牙32岁新队长不满热苏斯,效仿C罗,退出集训

球场没跑道
2026-11-16 13:22:35
三部科幻片烂番茄均超90%,含库布里克经典

三部科幻片烂番茄均超90%,含库布里克经典

算力游侠
2026-11-15 15:40:24
赖清德当局不让修、不让上岸?厦金大桥最后 1 公里, 大陆这步太高明

赖清德当局不让修、不让上岸?厦金大桥最后 1 公里, 大陆这步太高明

疯狂的小历史
2026-11-16 11:14:43
重仓AI硬件,一批基金濒临清盘

重仓AI硬件,一批基金濒临清盘

凤凰网财经
2026-11-15 22:02:12
鲁比奥为什么要扳倒黄仁勋,《华盛顿邮报》爆料更多细节

鲁比奥为什么要扳倒黄仁勋,《华盛顿邮报》爆料更多细节

起点财经
2026-11-15 16:00:16
特朗普:期待参加中俄美元首会晤

特朗普:期待参加中俄美元首会晤

澎湃新闻
2026-11-16 14:43:22
亚历山大三节37分!雷霆大胜国王结束3连败 阿卡夫26+6+9失误

亚历山大三节37分!雷霆大胜国王结束3连败 阿卡夫26+6+9失误

醉卧浮生
2026-11-16 12:22:36
画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

易玄
2026-09-12 10:24:46
公交改革来了!不再全由财政兜底,今后乘车、老年优惠会变吗

公交改革来了!不再全由财政兜底,今后乘车、老年优惠会变吗

铭记历史呀
2026-10-24 00:28:25
狂轰73+12+19!76人三巨头打疯了,詹姆斯准三双,这一战,我必须承认4个事实

狂轰73+12+19!76人三巨头打疯了,詹姆斯准三双,这一战,我必须承认4个事实

篮球扫地僧
2026-11-16 16:54:42
4+9+4+3+1!火箭从哪淘到的宝贝?单节9篮板,你是雷吉埃文斯啊?

4+9+4+3+1!火箭从哪淘到的宝贝?单节9篮板,你是雷吉埃文斯啊?

球盲姐
2026-11-16 12:19:41
霍启刚又幸福了!44岁郭晶晶官宣喜讯,让霍震霆和整个贵妇圈沉默了

霍启刚又幸福了!44岁郭晶晶官宣喜讯,让霍震霆和整个贵妇圈沉默了

不写散文诗
2026-11-15 15:09:22
AI演员方桃子首个美瞳代言广告被罚,其制作公司因发布虚假广告被罚6.82万余元;方桃子视频广告报价16.8万元起,出道仅30天吸粉超40万

AI演员方桃子首个美瞳代言广告被罚,其制作公司因发布虚假广告被罚6.82万余元;方桃子视频广告报价16.8万元起,出道仅30天吸粉超40万

蓬勃新闻
2026-11-16 14:50:11
性学专家李银河说:你若50岁左右,人生余额已不多。不出意外…

性学专家李银河说:你若50岁左右,人生余额已不多。不出意外…

豁达宇宙
2025-10-22 18:31:20
皇马连环暴击!穆里尼奥惨遭重创!伯纳乌这下悬了

皇马连环暴击!穆里尼奥惨遭重创!伯纳乌这下悬了

奶盖熊本熊
2026-11-16 09:03:54
涉嫌严重违纪违法,龚先华接受审查调查

涉嫌严重违纪违法,龚先华接受审查调查

中国基金报
2026-11-16 13:36:52
2026-11-16 18:20:49
环球网资讯 incentive-icons
环球网资讯
环球网,了解世界,融入世界
1461895文章数 2741276关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

APEC会议首位外国元首抵达深圳 中国女保镖贴身保护

头条要闻

APEC会议首位外国元首抵达深圳 中国女保镖贴身保护

体育要闻

热火4连胜:就因为维金斯替补了?

娱乐要闻

43岁佟丽娅官宣新身份担任职务不一般

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

日产终于开窍了!全新NV200 PHEV才是露营党的梦中情车?

态度原创

家居
游戏
亲子
本地
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

《纪元117:罗马和平》补丁预计一周后发布!

亲子要闻

剖腹产瘢痕增生,居家护理 + 4 个舒缓动作!

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版