Fortinet张略：AI安全威胁升级 以AI对抗AI”成为必然

日前，Fortinet中国区技术总监张略向网易科技表示，安全领域以有利AI对抗有害AI”已经成为必然。

5月底，据AI安全公司Palisade Research披露，OpenAI开发的高级AI模型“o3”在接收到明确的关机指令后，拒绝执行并主动干预其自动关机机制。此事引发了对AI安全的担忧，也让AI威胁论更受关注。

作为安全技术专家，在与网易科技沟通时，张略在谈到之前大模型拒绝关机指令时表示，o3拒绝执行关机指令存在多种可能性，例如系统错误或者有人诱导的原因，所以并不能认为AI已经突破安全、产生意识。

在AI广泛被应用之际，AI的安全问题以及来自AI的安全威胁问题均已不可忽视；面对AI带来的全新网络安全问题，Fortinet已经开始通过统一操作系统（FortiOS）整合自研ASIC芯片，构建覆盖网络边界、云、OT的Fortinet Security Fabric安全平台，以“网络融合安全”战略应对企业碎片化防御挑战。

AI安全威胁升级：“以AI对抗AI”成为必然

根据Fortinet的资料显示，其已推出三大“AI安全智能体”应用：FortiAI-Protect、FortiAI-Assist和FortiAI-SecureAI，并通过AI技术实现了威胁情报的自动化收集和分析，为企业提供了更加准确、及时的威胁情报支持。

张略向媒体深入剖析了AI给网络安全领域带来的具体挑战，并将其概括为三个层面，而应对之策的核心在于“以AI对抗AI”：

一是AI驱动的零日攻击与精准钓鱼

AI能够自主迭代，生成前所未见的零日攻击；同时，它能深度分析个人社交媒体信息，制作出极具针对性和欺骗性的钓鱼邮件。防御此类威胁，需要依赖AI驱动的威胁情报库和自学习能力，实时识别最新攻击模式、病毒变种和钓鱼邮件。

二是自动化、潜伏式AI攻击：

更精密的AI攻击者能在网络中自动运行、试探、潜伏，并在最佳时机激活进行破坏或窃密。完全依赖人工监控海量告警已不现实。解决方案是构建7*24小时不间断运行、具备高准确度（低误报率）的AI自动化识别与响应系统。

三是AI攻击的“机器速度”洪流：

AI生成的攻击在速度和规模上呈指数级增长（从亿级跃升至十亿甚至百亿级）。需要同样强大的AI加持的清洗系统，将海量噪音过滤，聚焦到最关键、最需要人类关注的少数攻击和事件上。

“未来网络安全战争一定是机器对机器的形式，已经超出人类的反应速度和处理速度，”张略强调，“以AI对抗AI”是应对这种新型威胁态势的必然选择。

应对AI自身风险：双重防线与“人机协同”

针对AI自身可能带来的风险，如数据投毒导致模型错误（幻觉）、模型本身被攻击等，张略阐述了Fortinet FortiAI的防护逻辑：

一是严控数据入口：

通过数据分级分类技术，严格过滤输入训练数据的质量，阻止含有病毒、恶意脚本、敏感信息（如个人隐私）的有害数据进入模型。这是保障模型输出质量（防幻觉）的第一道防线。

二是零信任接入管理：

严格管控“谁”能将数据输入到AI训练系统中。采用零信任网络接入策略，对上传者身份、设备安全状态、上传代码及数据进行严格认证和合规性检查，确保“合适的人、在合适的时间、用合适的设备、上传合适的数据”，防止数据投毒。

三是人机协同决策：

这是应对风险的核心原则。张略强调，在关键操作节点（如是否执行某项高风险动作），必须保留人类专家的最终判断权。“智能体会帮助分析并呈现结果，但这个结果是否正确，最终需要人类专家进行Double Check，确认后再决定是否让AI执行。”

张略表示，FortiAI的设计中，管理员可以在关键环节进行人工复核和干预。此外，建立验证体系（如预设答案的问题库测试AI输出准确性）并定期评估AI表现也至关重要。

构建AI智能体：高质量数据与专家调优是关键

谈及FortiAI智能体的构建，张略透露其核心在于高质量的行业数据与专家经验。

“我们今天演示的内容背后，是多年积累的高质量文档、排错手册。这些经过专家调校的、多角度的数据输入到模型中，再经过AI工程师的监督学习，才能输出高质量的结果。”他强调，仅靠单一手册训练，结果必然错误。构建可靠的AI智能体需要大量精确、多视角的数据和持续的人工专家调优过程。

张略也承认，目前及可预见的未来，信任AI的输出结果仍是最大挑战。“在关键节点，我们依然需要有经验的管理员进行监督确认。这个过程虽然耗时，但对于2B客户负责任的态度是必要的。”

他认为，随着高质量数据的持续输入和模型的不断迭代，AI在安全运营中的自主性和可靠性将逐步提升。