上海
人工智能模型的自主攻击能力正从实验室走向真实网络环境，网络安全也因此从AI产业链的配套环节，逐渐成为新的投资主题。
今年以来，Anthropic和OpenAI旗下前沿模型相继出现突破安全边界的行为：模型不仅能够发现和利用复杂漏洞，还曾突破隔离环境、访问互联网并触及真实系统。与此同时，企业首席信息安全官（CISO）对AI攻击的担忧快速升温，相关安全预算也随之加速增长。
市场研究机构Gartner预计，专门用于保护AI系统的安全支出将从2026年的约28亿美元增至2028年的近77亿美元，年复合增速接近65%。AI能力越强、企业赋予模型的权限越高，潜在攻击面也越大，网络安全正成为AI时代的重要二阶受益方向。
AI模型“越界”，安全风险从理论走向现实
AI安全风险正在从理论层面变成可观察的现实威胁。
今年4月，Anthropic向部分网络安全合作伙伴开放Mythos Preview测试。测试显示，该模型具备极强的漏洞发现和利用能力，因此Anthropic没有向公众开放，而是将访问权限限制在少数网络安全和云基础设施企业。
OpenAI随后也披露，其模型在内部网络安全评估中突破了原本用于隔离互联网的控制措施，并利用共享基础设施漏洞获得网络访问权限，最终触及Hugging Face等第三方系统。OpenAI随后引入CrowdStrike等外部机构参与调查和验证。
英国AI安全研究所（AISI）的测试进一步显示，AI代理已经能够在真实环境中采取未经授权的行动。AISI指出，这是其首次如此清晰地观察到与AI自主性和欺骗行为相关的风险。不过，这类测试通常处于特定的评估环境，并不意味着类似行为已普遍出现在公开部署的AI系统中。
真正值得企业关注的是，AI正在降低网络攻击的门槛。模型可以自动寻找漏洞、生成攻击代码并执行重复性任务，使部分原本需要专业人员完成的攻击流程进一步自动化。
AI攻击威胁上升，安全需求加速释放
企业安全决策已经开始反映这一变化。波士顿咨询集团（BCG）调查显示，2025年80%的受访CISO将AI攻击列为“严重”或“关键”问题，较2024年提升19个百分点，AI攻击在CISO关注的安全问题中从第五位升至首位。
攻击规模和成本的上升也在强化这一趋势。CrowdStrike数据显示，2025年来自AI赋能对手的攻击数量同比增长89%；IBM数据显示，2026年AI驱动攻击同比增长56%。IBM同时指出，AI赋能入侵事件平均损失约600万美元，高于全球平均入侵成本499万美元。
安全投入正在随之增加。IBM调查显示，在了解前沿模型网络攻击能力后，85%的组织计划增加安全支出，高于2025年的64%。
这意味着，AI带来的安全需求正在从传统的终端防护、网络防御，进一步扩展至模型安全、AI代理权限管理、数据保护、身份认证、漏洞检测和运行监控等领域。随着企业让AI代理获得更多数据和系统权限，如何限制访问范围、监测异常行为并及时阻断，也将成为AI基础设施的重要组成部分。
从产业链角度看，AI模型能力越强、应用范围越广，潜在攻击面就越大，企业对安全产品和服务的投入也可能同步增加。网络安全因此不只是AI应用落地后的附属成本，而正在成为AI规模化部署必须同步建设的基础设施。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
