网易首页 > 网易科技 > 互联网 > 正文

Fortinet张略:AI安全威胁升级 以AI对抗AI”成为必然

0
分享至

日前,Fortinet中国区技术总监张略向网易科技表示,安全领域以有利AI对抗有害AI”已经成为必然。

5月底,据AI安全公司Palisade Research披露,OpenAI开发的高级AI模型“o3”在接收到明确的关机指令后,拒绝执行并主动干预其自动关机机制。此事引发了对AI安全的担忧,也让AI威胁论更受关注。

作为安全技术专家,在与网易科技沟通时,张略在谈到之前大模型拒绝关机指令时表示,o3拒绝执行关机指令存在多种可能性,例如系统错误或者有人诱导的原因,所以并不能认为AI已经突破安全、产生意识。

在AI广泛被应用之际,AI的安全问题以及来自AI的安全威胁问题均已不可忽视;面对AI带来的全新网络安全问题,Fortinet已经开始通过统一操作系统(FortiOS)整合自研ASIC芯片,构建覆盖网络边界、云、OT的Fortinet Security Fabric安全平台,以“网络融合安全”战略应对企业碎片化防御挑战。

AI安全威胁升级:“以AI对抗AI”成为必然

根据Fortinet的资料显示,其已推出三大“AI安全智能体”应用:FortiAI-Protect、FortiAI-Assist和FortiAI-SecureAI,并通过AI技术实现了威胁情报的自动化收集和分析,为企业提供了更加准确、及时的威胁情报支持。

张略向媒体深入剖析了AI给网络安全领域带来的具体挑战,并将其概括为三个层面,而应对之策的核心在于“以AI对抗AI”:

一是AI驱动的零日攻击与精准钓鱼

AI能够自主迭代,生成前所未见的零日攻击;同时,它能深度分析个人社交媒体信息,制作出极具针对性和欺骗性的钓鱼邮件。防御此类威胁,需要依赖AI驱动的威胁情报库和自学习能力,实时识别最新攻击模式、病毒变种和钓鱼邮件。

二是自动化、潜伏式AI攻击:

更精密的AI攻击者能在网络中自动运行、试探、潜伏,并在最佳时机激活进行破坏或窃密。完全依赖人工监控海量告警已不现实。解决方案是构建7*24小时不间断运行、具备高准确度(低误报率)的AI自动化识别与响应系统。

三是AI攻击的“机器速度”洪流:

AI生成的攻击在速度和规模上呈指数级增长(从亿级跃升至十亿甚至百亿级)。需要同样强大的AI加持的清洗系统,将海量噪音过滤,聚焦到最关键、最需要人类关注的少数攻击和事件上。

“未来网络安全战争一定是机器对机器的形式,已经超出人类的反应速度和处理速度,”张略强调,“以AI对抗AI”是应对这种新型威胁态势的必然选择。

应对AI自身风险:双重防线与“人机协同”

针对AI自身可能带来的风险,如数据投毒导致模型错误(幻觉)、模型本身被攻击等,张略阐述了Fortinet FortiAI的防护逻辑:

一是严控数据入口:

通过数据分级分类技术,严格过滤输入训练数据的质量,阻止含有病毒、恶意脚本、敏感信息(如个人隐私)的有害数据进入模型。这是保障模型输出质量(防幻觉)的第一道防线。

二是零信任接入管理:

严格管控“谁”能将数据输入到AI训练系统中。采用零信任网络接入策略,对上传者身份、设备安全状态、上传代码及数据进行严格认证和合规性检查,确保“合适的人、在合适的时间、用合适的设备、上传合适的数据”,防止数据投毒。

三是人机协同决策:

这是应对风险的核心原则。张略强调,在关键操作节点(如是否执行某项高风险动作),必须保留人类专家的最终判断权。“智能体会帮助分析并呈现结果,但这个结果是否正确,最终需要人类专家进行Double Check,确认后再决定是否让AI执行。”

张略表示,FortiAI的设计中,管理员可以在关键环节进行人工复核和干预。此外,建立验证体系(如预设答案的问题库测试AI输出准确性)并定期评估AI表现也至关重要。

构建AI智能体:高质量数据与专家调优是关键

谈及FortiAI智能体的构建,张略透露其核心在于高质量的行业数据与专家经验。

“我们今天演示的内容背后,是多年积累的高质量文档、排错手册。这些经过专家调校的、多角度的数据输入到模型中,再经过AI工程师的监督学习,才能输出高质量的结果。”他强调,仅靠单一手册训练,结果必然错误。构建可靠的AI智能体需要大量精确、多视角的数据和持续的人工专家调优过程。

张略也承认,目前及可预见的未来,信任AI的输出结果仍是最大挑战。“在关键节点,我们依然需要有经验的管理员进行监督确认。这个过程虽然耗时,但对于2B客户负责任的态度是必要的。”

他认为,随着高质量数据的持续输入和模型的不断迭代,AI在安全运营中的自主性和可靠性将逐步提升。

延伸阅读
相关推荐
热点推荐
女子长相漂亮,还能赊账被杀,2011年排查几百个嫖客,凶手让人意外

女子长相漂亮,还能赊账被杀,2011年排查几百个嫖客,凶手让人意外

汉史趣闻
2026-11-17 09:30:11
杭州市文学学会:已免去赵某一切职务,配合核查

杭州市文学学会:已免去赵某一切职务,配合核查

极目新闻
2026-11-17 21:16:50
张爱萍晚年对秘书坦言:彭德怀坐镇军委时,全军高级将领全部都无条件服从统一指挥,功劳再大资历再老也没例外

张爱萍晚年对秘书坦言:彭德怀坐镇军委时,全军高级将领全部都无条件服从统一指挥,功劳再大资历再老也没例外

磊子讲史
2026-11-12 14:13:18
放弃五大联赛邀约!斯帅空降泰山,第一件事竟是深挖 B 队

放弃五大联赛邀约!斯帅空降泰山,第一件事竟是深挖 B 队

体坛小鹏
2026-11-17 09:40:50
骑士126-115击败公牛!米切尔末节20分,二轮秀立大功,哈登的正负值亮了

骑士126-115击败公牛!米切尔末节20分,二轮秀立大功,哈登的正负值亮了

篮球大视野
2026-11-17 10:51:24
李显龙直言不讳地告诫国民:每一个新加坡人都必须明白,本国坚决不承认“华人国家”身份,背后藏着的是全亚洲最为惊心动魄的生存考量

李显龙直言不讳地告诫国民:每一个新加坡人都必须明白,本国坚决不承认“华人国家”身份,背后藏着的是全亚洲最为惊心动魄的生存考量

橙色书卷
2026-07-16 21:35:45
蔡英文任命的台军前“防长”冯世宽,公开与台独分子划清界限:

蔡英文任命的台军前“防长”冯世宽,公开与台独分子划清界限:

果妈聊娱乐
2026-11-16 11:34:10
人体最佳睡觉时间表(建议永久收藏)

人体最佳睡觉时间表(建议永久收藏)

神奇故事
2026-11-14 23:05:28
国务院:由省财政统筹发放中小学教师工资,设立“教师工资专户”

国务院:由省财政统筹发放中小学教师工资,设立“教师工资专户”

郭爱华追问教育
2026-11-15 06:10:02
寿命与起夜次数有关?研究发现:寿命长的人,每晚起夜在这个次数

寿命与起夜次数有关?研究发现:寿命长的人,每晚起夜在这个次数

39健康网
2026-11-17 19:00:30
黄仁勋的小三四五全曝光!原来喜欢这种高智力美女背后还有其他故事…

黄仁勋的小三四五全曝光!原来喜欢这种高智力美女背后还有其他故事…

不二表姐
2026-11-16 23:39:41
油价每升6块时每周加一次200元,一月4次。如今,4周加一次200元

油价每升6块时每周加一次200元,一月4次。如今,4周加一次200元

沙雕小琳琳
2026-11-17 06:25:25
曾因一条评论,被认定为缅北电诈网红的李赛高,如今怎么样了?

曾因一条评论,被认定为缅北电诈网红的李赛高,如今怎么样了?

烈史
2026-11-17 06:38:27
上海当年增发养老金280元很多人已经到账,社保仅交16年个账10万,工龄单价为啥这么高?

上海当年增发养老金280元很多人已经到账,社保仅交16年个账10万,工龄单价为啥这么高?

平静话社保
2026-11-17 06:39:13
突发!美国 AI 芯片出口限制新增:新加坡、马来西亚、泰国、印度尼西亚、巴西

突发!美国 AI 芯片出口限制新增:新加坡、马来西亚、泰国、印度尼西亚、巴西

云头条
2026-11-17 00:44:09
为何红军过草地饥饿濒死时,捕获的救命野黄羊宁死也要放生两只?

为何红军过草地饥饿濒死时,捕获的救命野黄羊宁死也要放生两只?

小莜读史
2026-11-17 10:40:32
性生活时长不达标?先看看这条标准

性生活时长不达标?先看看这条标准

精彩分享快乐
2026-11-17 21:00:06
大家期盼已久的2026年退休人员养老金,究竟涨还是不涨?

大家期盼已久的2026年退休人员养老金,究竟涨还是不涨?

江启
2026-11-17 01:20:29
两性关系:发现了没,寿命长的男人,大多都有这五个好习惯

两性关系:发现了没,寿命长的男人,大多都有这五个好习惯

荔子言
2026-11-03 10:32:30
折腾!带队冲超后却遭下课,升班马现离谱操作,明年或是降级大热

折腾!带队冲超后却遭下课,升班马现离谱操作,明年或是降级大热

蜡笔小新爱体育
2026-11-17 17:53:24
2026-11-17 22:24:49

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

"钢琴魔女"王羽佳演出迟到17分钟:躲在琴房找感觉

头条要闻

"钢琴魔女"王羽佳演出迟到17分钟:躲在琴房找感觉

体育要闻

我们三兄弟,都是意大利国脚

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

日本经济再现负增长 日央行12月还加息吗

汽车要闻

红旗H9 PHEV这后排,谁还抢着坐副驾?

态度原创

健康
亲子
教育
家居
公开课

医生眼里"很伤腰"的椅子,很多人天天坐

亲子要闻

这4类孩子身高难“逆袭”,家长要尽早干预

教育要闻

佛山暨大港澳子弟学校将出席2026第四届课博会,共探SEL与跨学科融合的生态构建

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版
×