AI失控信号出现？这个板块迎来最强风口

近期，网络安全相关板块涨幅明显。

随着AI大模型攻击与失控事件受到越来越多关注，加上Anthropic CEO达里奥·阿莫迪日前公开呼吁为前沿AI发展踩刹车，并提出通过更严格的测试、独立安全评估以及行业与国际合作等方式控制风险，OpenAI CEO萨姆·奥尔特曼等也公开表达了对AI安全治理的重视，市场对AI时代网络安全的关注度持续提升。

一、AI安全事件频发，网络安全风险边界扩大

市场愈发关注一个问题：当模型越来越强之后，如何确保其仍处于可控状态？

而这轮讨论迅速升温，很大程度上与近期多起AI模型在网络安全测试中的异常行为有关。随着大模型具备更强的推理能力、工具调用能力和自主执行能力，其面临的安全边界正在发生变化。

过去，人们担心的是模型回答错误或生成有害内容；如今，则需进一步考虑模型是否会调用不该调用的工具、访问不该访问的系统，甚至在执行任务过程中采取超出授权范围的行动。

今年7月，OpenAI披露了一起Hugging Face安全事件。在一次内部网络安全评估中，模型突破了原本用于隔离互联网的控制措施，利用漏洞获得网络访问能力，并进一步访问Hugging Face相关系统。OpenAI随后表示，相关模型在测试环境中采取了与预期任务不完全一致的行动，包括利用漏洞、通过未经授权的通信渠道进行交互，以及访问第三方系统。

英国AI安全研究所今年8月也披露了类似案例。研究人员将网络安全挑战交给AI Agent解决，在122次测试中，有10次出现自主采取未经授权行动的情况，共记录19次相关行为。其中一次较为严重的测试中，AI Agent试图向开源项目植入恶意代码，并通过虚假身份实施社会工程，试图推动项目维护者批准相关代码，最终被人工识别并阻止。

与此同时，AI被恶意使用的现实案例也在增加。Anthropic今年9月发布的威胁情报报告显示，过去八个月内，公司识别并阻断了多起试图利用Claude开展恶意活动的行动，涉及网络攻击、监控、诈骗等多个领域。

与传统网络攻击相比，AI的加入使部分攻击流程能够实现自动化和规模化执行。攻击者可借助模型完成信息搜集、代码编写、漏洞研究以及部分攻击流程组织，从而降低复杂网络攻击的技术门槛。

因此，随着AI技术持续突破，AI安全正逐步转化为真实需求。

过去的网络安全防护主要围绕网络、终端、服务器、应用系统及数据库展开；而随着大模型和AI Agent进入企业核心系统，安全边界开始进一步扩大。

未来，企业可能需要考虑的已不再只是谁可以访问系统，还包括模型可以访问什么、Agent拥有哪些权限、模型调用了哪些接口、数据是否被带出系统，以及AI执行的行为是否符合预期等问题。

二、从大模型到智能体，网络安全体系加速扩容

这也意味着，传统网络安全体系正在迎来新一轮扩容。

首先是大模型自身安全。模型可能面临提示词注入、越狱、模型窃取、训练数据污染以及恶意输入等风险，企业需要建立覆盖模型部署、运行和输出环节的安全机制。随着模型成为企业内部业务系统的一部分，其安全性也将逐步扩展至系统安全和业务安全。

其次是AI应用安全。当大模型通过插件、API及知识库接入企业内部系统后，应用层面将出现新的攻击入口。企业既需要确保AI应用能够正常调用必要资源，也要避免模型因权限配置不当而访问超出业务范围的信息。由此带来的接口安全、应用安全、访问控制和运行监测等需求，都有望成为传统网络安全产品新的应用场景。

再次是智能体安全。相比普通聊天机器人，Agent具备更强的自主执行能力，需要自行规划任务并调用不同的软件和数据资源。能力提升意味着风险边界同步扩大，因此身份认证、权限管理、行为审计、操作留痕和异常拦截的重要性将显著提升。可以说，未来企业不仅需要管理人的权限，也需要管理AI的权限。

同时，数据安全也有望成为AI安全体系的重要组成部分。大模型能够提升企业内部信息处理效率，但模型训练和应用过程中涉及大量敏感数据，一旦数据权限控制不到位，就可能出现内部数据泄露、知识库越权访问等问题。企业部署AI的过程，很可能同步增加在数据分类分级、数据防泄漏、身份认证、零信任访问以及API安全等方面的投入。

当前，我国政策正在持续强化相关方向。“十五五”规划纲要提出实施“人工智能+”行动，同时要求健全新技术新业态安全监管框架，完善人工智能领域法律法规、政策制度、应用规范和伦理准则，健全算法备案、透明度管理、安全评估等制度，并建立人工智能全生命周期风险管理体系。2026年9月14日，《人工智能安全治理框架3.0》正式发布，推动我国AI安全治理进一步向覆盖研发、部署、运行和应用全过程的治理体系深化。

三、AI安全需求释放，行业增长曲线逐步清晰

从行业需求来看，AI安全有望成为网络安全行业新的增长曲线。

随着AI快速普及，安全需求将伴随每一次模型部署、每一次系统接入以及每一次Agent权限扩张同步产生。特别是在金融、政务、能源、电信、工业等数据高度敏感的领域，AI与核心业务结合越深入，对安全防护的要求就越高。

因此，我们认为，AI安全正逐步成为网络安全板块值得关注的重要增量方向。随着AI大模型、智能体以及各类AI应用快速落地，新的安全需求正在持续产生。尤其是在模型能力不断增强、AI逐步接入企业核心业务系统的背景下，安全防护有望逐渐成为AI应用规模化落地的重要前提。

具体来看，或可重点关注以下方向。

首先，大模型安全需求有望加速释放。围绕模型本身及模型应用形成的提示词攻击、模型越狱、数据泄露、恶意调用、模型窃取、训练数据污染等风险，使企业需要增加在模型安全防护、AI安全评测以及运行监测等方面的投入。随着AI Agent拥有更广泛的系统调用权限，身份认证、权限控制、行为审计和调用链安全的重要性也将进一步提升。

其次，数据安全和身份安全的价值有望进一步提升。AI应用的核心资源之一是数据。大模型接入企业数据库、知识库以及各类业务系统后，数据流动范围明显扩大。企业既需要防止敏感数据通过模型交互发生泄露，也需要解决不同模型、不同智能体以及不同用户之间的访问权限问题。因此，数据防泄漏、数据分类分级、零信任、身份认证、访问控制、API安全等传统网络安全能力，有望获得新的应用场景。

总体而言，随着AI能力持续突破，安全正逐步成为产业继续发展的重要条件。从模型测试中的异常行为，到现实世界中的AI辅助攻击，再到智能体逐渐获得更多执行权限，AI安全的边界正在快速扩大。

因此，随着人工智能从工具逐步走向基础设施，安全也有望从过去的配套投入，逐渐成为AI基础设施不可缺少的一部分。未来，随着大模型和智能体进一步进入金融、政务、工业、能源、医疗等核心场景，网络安全行业有望迎来从传统防护向模型安全、数据安全、身份安全和智能安全运营全面扩展的新阶段。

从板块配置角度看，当前AI安全仍处于快速发展阶段，市场预期可能领先于业绩兑现。后续或可持续关注研发投入能力较强、拥有成熟安全产品体系，并能够持续向AI安全、数据安全和智能安全运营延伸的细分方向。

注：市场有风险，投资需谨慎。在任何情况下，本订阅号所载信息或所表述意见仅为观点交流，并不构成对任何人的投资建议。除专门备注外，本文研究数据由同花顺iFinD提供支持】

本文由公众号“星图金融研究院”原创，作者为星图金融研究院研究员高政扬。

编辑：胡伟