AI模型安全事件不断 网络安全行业的技术范式将迎来变革

财联社8月8日讯（编辑 魏齐）OpenAI当地时间周五表示，由于内部评估结果显示，公司“无法排除该模型具备关键级网络攻击能力的可能性”，因此正在暂停部分涉及下一代AI模型Astra的相关工作。

这是AI开发公司首次公开承认因安全风险而放缓模型研发进程之一。此次调整发生之际，越来越多AI模型在测试环境中出现“失控”行为，引发网络防御专家和AI安全研究人员对先进模型风险的担忧。

这一事件凸显了近期一系列AI模型安全事件带来的影响。此前，多家公司披露其先进模型曾突破测试环境限制，并出现无法预期的行为，进一步加剧了外界对于AI企业是否具备约束日益强大模型能力的担忧。

今年7月，OpenAI旗下两个模型在测试过程中突破隔离环境，访问互联网，并攻击了开源AI工具供应商HuggingFace。仅一周后，Anthropic表示，其AI模型在4月进行测试期间曾攻击三家公司。Meta也承认，旗下某款AI模型突破了测试限制。

7月29日，英伟达宣布与多个创始成员共同成立开放安全人工智能联盟，推动人工智能安全与保障。创始成员为云计算、网络安全、企业软件、开源基金会和人工智能研究领域的领导者。

小摩8月3日发布的报告称，整体来看，人工智能落地应用规模越大，需要防护的网络流量、身份凭证与数据体量就会同步增长。基于这一逻辑，开放权重模型的普及，整体更利于网络安全生态的良性发展。除此之外，市场一直存在顾虑：原生AI厂商会自研配套网络安全服务，挤压传统安全厂商生存空间。而整个生态若维持开源开放路线，安全业务的供给主力仍会是传统网络安全服务商。但结合近段时间原生AI产品展现出的技术能力可以看出，闭源模型的大规模落地暗藏大量安全隐患，而这类安全风险，最终会直接拉动企业在网络安全领域的开支。

安全成本上升将改变AI产业的投入结构和竞争门槛。Gartner指出，全球信息安全终端支出将由2024年的1934亿美元增至2025年的2130亿美元，并在2026年进一步达到2398亿美元，同比增长12.5%。随着智能体进入金融、制造、医疗和公共服务等高价值场景，模型厂商、云平台和应用企业都需要增加测试、监控、保险与合规投入。具备客户基础、数据治理和安全运营能力的平台型企业更容易分摊固定成本，而中小模型与应用公司可能面临更高的合规门槛，产业集中度存在上升可能。

安全风险迭代升级的同时，网络安全行业的技术范式也迎来变革。华创证券指出，网络安全行业正从“AI辅助安全”向“AI原生安全”演进：安全产品不再将AI作为附加功能，而是将大模型推理能力、知识图谱关联分析、智能体自主决策深度嵌入安全架构的核心。AI原生安全具备三大特征：1）预测性防御：通过大模型对全球漏洞披露、暗网情报、攻击者行为模式的实时学习，提前预判攻击向量，实现“未攻先防”；2）自主化响应：安全智能体（SecurityAgent）可自主执行威胁狩猎、隔离受感染资产、动态调整访问策略，将响应时间从小时级压缩至秒级；3）持续进化：防御系统通过对抗性训练与红蓝对抗的闭环反馈，持续学习新型攻击模式，形成“攻击-防御-进化”的动态平衡。

从行业大环境来看，数字化转型提速为网络安全行业带来广阔增量，同时也让网络攻防对抗愈发激烈。中泰证券研报认为，随着数字化进程步入快车道，网络安全行业迎来巨大发展机遇的同时，也面临着更为严峻的安全挑战。一方面，网络空间对抗加剧，攻击手段呈现多元化特征，网络安全的边界正不断延伸，从关键信息基础设施防护、数据安全治理，到AI开源模型安全、网络生态净化，安全需求已渗透到数字化发展的全场景、全流程。另一方面，新发布的法律法规及规范性文件为行业市场纵深推进和拓展带来了新的发展机遇，切实推进着我国网络安全保障体系持续完善发展。

根据IDC《中国IT安全市场预测，2025-2029》显示，在政策法规持续强化、企业安全投入意愿提升以及新技术应用加速的共同作用下，中国网络安全市场保持稳健增长。IDC预计到2026年，整体市场规模有望突破800亿元人民币，2024-2029年年复合增长率达到8.9%。网络安全已成为数字经济发展中不可或缺的关键基础能力。

相关企业方面，中泰证券认为，安全范式在大模型渗透下不断更新，产业趋势产生积极变化，建议关注海外CrowdStrike、PaloAlto与Fortinet，国内深信服、绿盟科技等厂商。