网易首页 > 网易号 > 正文 申请入驻

智能体爆发元年 安全服务更需向智能化发展

0
分享至

(记者 叶菁)安全和智能是硬币的两面,没有安全制衡的智能是危险的,没有智能驱动的安全是滞后的。翻阅近期报道,不难发现,无论是海外巨头还是国内科技公司等都把AI智能体视为重点业务方向大力推进。AI技术也加快从“工具辅助”迈向“自主决策”的新阶段。然而,技术的快速迭代往往伴随着未知的风险,安全问题从传统的数据泄露、系统漏洞,扩展至模型幻觉、智能体失控等新型风险,迫使AI与安全进入共生新纪元。而从运营商的角度来看,保障安全服务成为了刻不容缓的任务。

(图片来源:摄图网)

安全风险“放大”

在数字化浪潮汹涌澎湃的当下,AI技术无疑是其中最为耀眼的弄潮儿,为各行各业带来了前所未有的变革与机遇。然而,如同硬币的两面,AI在展现其强大创造力的同时,也悄然滋生出一些新的风险。网络安全公司Symantec发出警示:AI智能体已突破传统工具的功能束缚,正逐渐沦为黑客的“帮凶”,对网络安全构成了全新且严峻的威胁。

随着大模型技术在金融、政务、企业等多个关键领域的广泛应用,安全风险不再是单一存在,而是相互交织、叠加放大。对于运营商而言,AI智能体的应用更是让安全风险呈现出“放大效应”。 以金融领域为例,根据权威机构Gartner的研究报告,多智能体交互在金融交易系统中的应用,使得访问控制风险呈指数级增长。多个智能体在不同环节协同工作,一旦某个环节出现漏洞,攻击者就可能利用这些漏洞进行越权访问,造成巨大的经济损失。

同时,“幻觉”累加问题也不容忽视。在政务服务场景中,如果智能体在数据处理的某一环节产生错误,后续的流程会不断引用这个错误结果,导致错误在整个任务链条中被不断放大,影响政务决策的准确性和公正性。

以模制模动态防御

AI智能体之所以会成为网络安全的新威胁,背后有着多方面的深层次原因。AI技术本身具有高度的通用性和灵活性,这使得它既可以为合法用户提供服务,也容易被恶意利用。黑客只需对AI智能体进行简单的“改造”,就能使其服务于非法目的。而且,AI的自主学习和进化能力意味着,一旦被黑客掌控,这些智能体可以不断适应新的网络安全防御机制,持续发起攻击。

AI带来的安全问题对于运营商来说已不再是“选择题”,而是关乎生存和发展的“必答题”。在这种情况下,运用智能手段来约束智能,采用AI安全的方式成为了必然选择。 运营商可以利用自身的技术优势,构建基于AI的动态防御体系。通过实时监测网络流量和智能体行为,运用机器学习算法对潜在的安全威胁进行精准识别和预测。例如,在AI安全的实践中,身为科技型企业的中国电信致力于通过智能化手段实现安全运营效率的持续提升,积极运用人工智能成果反哺AI安全保障。在数据层面,中国电信打造了国内首个安全领域的高质量数据集“阡陌”,在大模型层面则推出安全垂类大模型“见微”。据了解,见微安全大模型深度聚焦网络安全赋能,并围绕数据、代码、运营、攻防,构建“四位一体”技术框架,全面覆盖威胁研判、智能运营等核心应用场景,对外全面升级云堤·抗D、天翼安全大脑等产品的核心能力,对内赋能MSSP平台及SOC体系,全方位守护人工智能时代的数据安全。

此外,运营商还可以与安全技术厂商合作,共同研发针对AI智能体的安全防护解决方案。通过引入先进的加密技术和访问控制机制,确保智能体之间的交互安全,防止数据泄露和恶意攻击。

构建可信技术生态

网络安全从来不是一家之事,产业链上下游携手共建合规,共同打造安全可信生态体系才是上策。运营商作为数字基础设施的构建者,正在从传统“管道提供商”转型为“智能生态运营商”。其构建的安全防御体系也不再是简单的技术方案,而是融合了网络能力、算力资源和算法创新的新型基础设施。

运营商通过与政府、监管部门紧密合作,获得坚实的政策支持,具有相关资源协调优势;通过与科研院所、实验室的研发合作,不断促进科技成果的转化和落地,能够在技术方面保持领先优势;通过与头部安全厂商的广泛合作,集成各方优势能力,提供了更加可靠的网络安全服务优势。

以中国电信为例,中国电信积极与多所高校和科研机构合作,产、学、研紧密结合,建立起多层次、多领域人才培养体系通过组织培训,持续加强安全人才队伍建设。另一方面,通过举办网络和数据安全技能竞赛,充分挖掘和培养专业型人才。面向行业合作伙伴,中国电信发起成立“天翼网信安全产业联盟”,加强网络安全技术研究与应用合作;牵头建设云网基础设施安全国家工程研究中心,建立国家级5G安全接入标准体系……

值得注意的是,智能体安全标准化进程仍面临诸多挑战。业内专家指出:当前智能体安全标准存在“三重割裂”——技术架构割裂、行业应用割裂、地域监管割裂。这要求运营商在推进标准化的同时,更要注重建立弹性兼容的治理框架。

站在2025年的技术临界点上,智能体安全已演变为包含技术、伦理、法律等多维度的复杂系统工程。这场安全范式重构的深远影响或许超出我们当前认知。当某天智能体能够自主协商安全策略时,人类需要思考的不仅是“如何保护智能体”,更是“如何与智能体共建安全未来”。这既是技术革命的必然要求,也是文明演进的历史课题。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
以色列国土防卫司令部:全国性限制措施仍然保持不变

以色列国土防卫司令部:全国性限制措施仍然保持不变

财联社
2026-03-08 02:04:06
比亚迪砍向蔚来

比亚迪砍向蔚来

版面之外
2026-03-06 00:08:17
连追3局+救2赛点仍1轮游!郑钦文被扣205分,世界排名跌至第26位

连追3局+救2赛点仍1轮游!郑钦文被扣205分,世界排名跌至第26位

我爱英超
2026-03-08 10:12:40
俄罗斯副总理表示 俄将转移部分对欧天然气供应至其他国家

俄罗斯副总理表示 俄将转移部分对欧天然气供应至其他国家

国际在线
2026-03-07 19:27:40
西甲最新积分战报:巴萨3连胜,马竞3-2绝杀,奥萨苏纳奇迹绝平

西甲最新积分战报:巴萨3连胜,马竞3-2绝杀,奥萨苏纳奇迹绝平

足球狗说
2026-03-08 06:34:35
我国初中、高中、高等教育三个阶段的学龄人口将分别于2026年、2029年、2032年达峰

我国初中、高中、高等教育三个阶段的学龄人口将分别于2026年、2029年、2032年达峰

大象新闻
2026-03-06 18:47:02
美国恨透了中国北斗,却不敢轻易干扰北斗信号,美在害怕什么?

美国恨透了中国北斗,却不敢轻易干扰北斗信号,美在害怕什么?

阿纂看事
2026-03-04 11:40:53
在重庆干了这5件蠢事!被当地导游骂醒,这些坑千万别再踩了!

在重庆干了这5件蠢事!被当地导游骂醒,这些坑千万别再踩了!

金旅观察
2026-03-06 17:18:09
特朗普彻底傻眼 抢来的台积电,被中国稀土一招卡死!

特朗普彻底傻眼 抢来的台积电,被中国稀土一招卡死!

达文西看世界
2026-03-08 16:06:27
2026上半年开挂预警!三个星座贵人成群,事业爆发赚到手软

2026上半年开挂预警!三个星座贵人成群,事业爆发赚到手软

小晴星座说
2026-03-08 18:22:18
朔州:最新!新任1名副市长!

朔州:最新!新任1名副市长!

朔州那些事儿
2026-03-07 18:07:43
中国早已布局完毕,美专家警告美国,别打伊朗,中国一定笑到最后

中国早已布局完毕,美专家警告美国,别打伊朗,中国一定笑到最后

伴君终老
2026-03-07 20:19:11
越扒瓜越大!鲁山舅舅与亡姐结婚再添猛料,远不止吃绝户这么简单

越扒瓜越大!鲁山舅舅与亡姐结婚再添猛料,远不止吃绝户这么简单

梦史
2026-03-07 09:26:14
美伊激战之际,中俄意识到同一个问题,海湾国家已经站在十字路口

美伊激战之际,中俄意识到同一个问题,海湾国家已经站在十字路口

绝对军评
2026-03-08 18:09:34
扶不起的阿斗:苏联养15年,中国养20多年,为何至今仍穷困潦倒?

扶不起的阿斗:苏联养15年,中国养20多年,为何至今仍穷困潦倒?

大鱼简科
2026-02-21 09:34:05
“鹅厂门口免费安装”近千人排队,爆火的“龙虾”究竟是什么?

“鹅厂门口免费安装”近千人排队,爆火的“龙虾”究竟是什么?

澎湃新闻
2026-03-08 00:53:18
建国后粟裕为何仕途不顺?陈赓:没办法,不受欢迎的2种人他都占

建国后粟裕为何仕途不顺?陈赓:没办法,不受欢迎的2种人他都占

南书房
2025-04-12 23:50:03
足坛一夜动态:巴萨1-0领先4分!曼城3-1切尔西4-2晋级八强

足坛一夜动态:巴萨1-0领先4分!曼城3-1切尔西4-2晋级八强

念洲
2026-03-08 06:45:03
郑钦文谈IW首秀失利:自己很多地方都没有做好

郑钦文谈IW首秀失利:自己很多地方都没有做好

全网球APP
2026-03-08 13:51:36
伊朗仅允许中国船只通过海峡!想过没,如果是假的,后果是什么?

伊朗仅允许中国船只通过海峡!想过没,如果是假的,后果是什么?

走读新生
2026-03-06 16:59:32
2026-03-08 19:16:49
通信信息 incentive-icons
通信信息
通信信息报报社官方媒体平台
9665文章数 6565关注度
往期回顾 全部

科技要闻

OpenClaw最大的推手是闲鱼和小红书

头条要闻

美军精锐空降师4000余人进入待命 被指或要推地面战

头条要闻

美军精锐空降师4000余人进入待命 被指或要推地面战

体育要闻

大伤后被交易,他说:22岁的我已经死了

娱乐要闻

周迅新恋情曝光,李亚鹏等人已成过去

财经要闻

油价要失控?

汽车要闻

9分钟充饱 全新腾势Z9GT首搭闪充技术26.98万起

态度原创

旅游
艺术
本地
手机
公开课

旅游要闻

两会文旅·热点观察 | 场景上新、科技赋能、赛事驱动:两会文旅话题热背后的群众视角与期待

艺术要闻

“巨胎之王”斥资8.8亿!海安集团总部动工,莆田又一新地标!

本地新闻

食味印象|一口入魂!康乐烤肉串起千年丝路香

手机要闻

vivo Y37+现身官网:6000mAh电池、天玑6300芯片,1599元

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版