网易首页 > 网易号 > 正文 申请入驻

东北证券:AI快速发展带动安全需求爆发 关注深度伪造视频、图像、文本等检测产品

0
分享至

智通财经APP获悉,东北证券发布研报称,生成式人工智能技术在网络安全领域是一把“双刃剑”,AI新技术的脆弱性也使得应用自身面临安全风险。随着全球AI安全市场规模预计在2030年达到1340亿美元(CAGR 27.6%)。AI大模型安全监测评估产品或迎发展先机。AI衍生安全问题加剧,AI监管势在必行,建议关注深度伪造视频、图像、文本等检测产品。

东北证券主要观点如下:

“AI+安全”主要包括AI赋能网络安全、AI内生安全和AI衍生安全

大模型快速发展给人们带来便利的同时,其引发的网络安全问题也值得重点关注。以ChatGPT为代表的生成式人工智能技术在网络安全领域是一把“双刃剑”,一方面,AI可以赋能网络安全,提升风险检测与防护能力;另一方面,AI的滥用将对国家、社会、公众带来负面影响,同时,AI新技术的脆弱性也使得应用自身面临安全风险。

AI在赋能传统网安产品与提升网安运营效率方面展现出极大潜力

根据Statista预测,2023至2030年全球AI安全市场规模CAGR将达27.60%,2030年市场规模将飙升至1340亿美元。AI赋能传统安全产品主要包括威胁检测产品(恶意软件检测、攻击流量检测、用户和实体行为分析、以及加密流量分析)、数据安全和防火墙等;AI大模型在网络安全运营中的产业实践,尤其是在告警降噪、攻击研判、自动响应与处置方面,展现出了显著的优势和潜力,安全运营是安全行业最需要AI深度改造的环节。

AI内生安全构筑网安新赛道,AI大模型安全监测评估产品或迎发展先机

人工智能技术的崛起依托于AI模型、AI数据以及AI承载系统。1)AI模型安全:主要包含模型训练完整性威胁、模型测试完整性威胁和鲁棒性欠缺威胁等。2)AI数据与隐私安全性:主要包括模型窃取、隐私泄露和基于梯度更新的数据泄露等威胁。3)AI系统安全性问题:主要包括硬件设备安全和系统与软件安全,AI系统安全性问题与传统计算机安全领域中的安全问题类似,威胁着AI技术的完整性、保密性、可用性。

AI衍生安全问题加剧,AI监管势在必行,建议关注深度伪造视频、图像、文本等检测产品

人工智能衍生安全指人工智能系统因其自身脆弱性被利用而引起其他领域的问题,AI衍生安全影响AI的合规使用,还涉及人身安全、隐私保护等。AI衍生安全包括:人工智能系统失误引发的安全事故、大模型广泛应用带来的滥用风险和人工智能武器研发可能引发国际军备竞赛。各国针对AI滥用情况纷纷发布相关监管政策,我国发布《生成式人工智能服务管理暂行办法》和《人工智能生成合成内容标识办法》等办法,体现了风险防范、风险应对和风险管理的基本思路。

风险提示:人工智能、网络安全和AI安全行业发展不及预期。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美国加州州长纽森访问乌克兰,强调乌克兰不会孤立无援

美国加州州长纽森访问乌克兰,强调乌克兰不会孤立无援

山河路口
2026-11-17 13:23:28
打脸!伊朗导弹竟击穿萨德,7名以军军官当场死亡,靠的不是速度

打脸!伊朗导弹竟击穿萨德,7名以军军官当场死亡,靠的不是速度

手里有读
2026-11-15 20:14:22
陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

陈羽凡现状:低调生活,50岁胖到认不出,17岁儿子1米8长得像妈

三公子娱乐丫
2025-05-17 17:59:45
美国华裔女孩崩溃,父母卖掉如今值6000万洋房,移居美国后当苦力

美国华裔女孩崩溃,父母卖掉如今值6000万洋房,移居美国后当苦力

落雪听梅a
2026-11-02 21:53:12
韩媒:K联赛大田市民正与泰山前锋泽卡沟通,他有K联赛经验

韩媒:K联赛大田市民正与泰山前锋泽卡沟通,他有K联赛经验

懂球帝
2026-11-17 14:32:41
癌的源头已发现?咸菜没上榜,第1名大家或天天都在吃

癌的源头已发现?咸菜没上榜,第1名大家或天天都在吃

叙说医疗健康
2026-09-05 06:00:24
官媒亲宣!何超琼正式上任,职务不一般,与郑邵康恋爱早有真相

官媒亲宣!何超琼正式上任,职务不一般,与郑邵康恋爱早有真相

一盅情怀
2026-11-17 12:19:47
就在刚刚!官宣签NBA总冠军后卫冲季后赛!在CBA曾场均27.9分11.1板10.9助

就在刚刚!官宣签NBA总冠军后卫冲季后赛!在CBA曾场均27.9分11.1板10.9助

老吴说体育
2026-11-17 14:31:59
中小学寒假时间出炉,最长放假42天!

中小学寒假时间出炉,最长放假42天!

泗洪风情
2026-11-17 10:44:23
金价,大跌!

金价,大跌!

新浪财经
2026-11-17 16:00:53
39岁刘亦菲近照曝光,气质面相大变,和彭冠英恋情传闻早水落石出

39岁刘亦菲近照曝光,气质面相大变,和彭冠英恋情传闻早水落石出

领略非凡
2026-11-15 15:48:00
“这颜值,放艺术生里也是顶级了!”家长晒素颜大一女儿哭鼻子,院校揭晓网友都慕了

“这颜值,放艺术生里也是顶级了!”家长晒素颜大一女儿哭鼻子,院校揭晓网友都慕了

妍妍教育日记
2026-09-14 20:51:56
热苏斯律师:有人刻意推动议程攻击热苏斯,我不是说这一定是C罗所为

热苏斯律师:有人刻意推动议程攻击热苏斯,我不是说这一定是C罗所为

懂球帝
2026-11-17 18:24:42
火箭对阵步行者前瞻 西卡亚姆近期状态出色 乌度卡会如何应对

火箭对阵步行者前瞻 西卡亚姆近期状态出色 乌度卡会如何应对

大话火箭队
2026-11-17 16:17:54
机动车年检大势已定?从2027年开始,私家车年检可能面临5大变化

机动车年检大势已定?从2027年开始,私家车年检可能面临5大变化

三农老历
2026-11-17 04:23:04
随着希腊1-0,德国5-0荷兰,欧国联A级联赛8强已诞生7席:7大劲旅在列

随着希腊1-0,德国5-0荷兰,欧国联A级联赛8强已诞生7席:7大劲旅在列

侧身凌空斩
2026-11-17 05:46:31
张天爱里面不穿,有点辣啊

张天爱里面不穿,有点辣啊

吃瓜党二号头目
2026-09-05 12:10:46
宣布婚变!今天的瓜,全网炸了

宣布婚变!今天的瓜,全网炸了

背包旅行
2026-11-16 17:56:26
多名院士呼吁停止食用:高胆固醇“加速器”,上了年纪尽早戒掉

多名院士呼吁停止食用:高胆固醇“加速器”,上了年纪尽早戒掉

健康科普365
2026-11-08 18:30:10
24岁男子约女网友开房,不惜加价到8400元,缠绵后男子后悔,被拘5个月

24岁男子约女网友开房,不惜加价到8400元,缠绵后男子后悔,被拘5个月

江山挥笔
2026-11-16 08:58:42
2026-11-17 18:44:49
智通财经 incentive-icons
智通财经
全球资本市场财经资讯提供者
1198439文章数 101341关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

媒体:东风-61列装引发岛内巨震 对手想拦截比登天还难

头条要闻

媒体:东风-61列装引发岛内巨震 对手想拦截比登天还难

体育要闻

我们三兄弟,都是意大利国脚

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

日本经济再现负增长 日央行12月还加息吗

汽车要闻

红旗H9 PHEV这后排,谁还抢着坐副驾?

态度原创

本地
房产
时尚
教育
公开课

本地新闻

乌兰察布:以前种土豆,现在种Token

房产要闻

5381亩之后,三亚绿谷,等一个500强!

今年秋冬最火搭配:风衣+阔腿裤,怎么穿都时髦

教育要闻

带分数除法,巧拆分,不用硬算快速出结果

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版