北京
智通财经获悉，开源证券发布研报称，随着大模型与智能体等AI应用场景加速落地，AI带来安全风险随之向业务核心环节渗透，也衍生出了提示词注入、模型投毒、多智能体协同欺骗等全新系统性风险。2027年，人工智能应用安全仍将是最大的支出类别，预计将达到近8.51亿美元，其次是AI使用控制，支出预计将达到7.49亿美元。AI时代，网络安全进入“AI对抗AI”的阶段，行业也迎来新发展机遇。
开源证券主要观点如下：
AI时代，网络安全进入“AI对抗AI”的阶段
随着人工智能技术的广泛应用，网络攻击领域迎来关键性迭代，攻击者已开始用AI完成目标筛选、信息整合、路径规划、实施攻击与策略调整，运用AIAgent发起自动化攻击，使得攻击效率与隐蔽性均实现指数级提升网络安全攻防博弈的规则已从过去人与人的较量，进化到了“AI对抗AI”的阶段。同时，随着大模型与智能体等AI应用在政务、金融、工业、医疗及企业内部管理等场景加速落地，AI带来安全风险随之向业务核心环节渗透，也衍生出了提示词注入、模型投毒、多智能体协同欺骗等全新系统性风险。
Anthropic、OpenAI推出AI安全防御模型，高度重视AI安全
(1)根据Anthropic披露，一个被追踪为GTG-1002的黑客组织，利用Claude Code工具对全球目标发起了高度自动化的渗透行动。攻击者没有使用任何自研恶意软件，而是组合公开的渗透测试工具，通过Claude Code加MCP(Model ContextProtocol)搭建了一套多代理攻击架构。他们让Claude相信自己是一家合法网络安全公司的员工，正在做授权的安全测试。此后，Anthropic推出了Claude Mythos项目——一个专门用于安全防御的AI系统。它在2026年4月的测试中发现了数千个零日漏洞，覆盖所有主流操作系统和浏览器。此外，OpenAI推出了GPT-5.4-Cyber，作为GPT-5.4的专门优化版本，针对网络安全防御场景进行了特别优化。(2)8月27日，OpenAI发布了一封题为“集体行动呼吁网络防御”的公开信，获得至少116家企业和组织的联署，其中包括Anthropic、Google、Microsoft、AMD、CrowdStrike、Palo Alto Networks、Okta、Fortinet、花旗银行、Capital One、Visa、万事达卡等横跨AI、网络安全、金融和基础设施领域的重量级机构，公开信的核心警告是：AI驱动的网络攻击将在未来数月内变得“更加广泛和复杂”。
随着AI渗透率提升，全球AI安全市场将实现高速增长
Gartner预计，2027年全球AI安全市场规模将较2026年增长69%，达到47.83亿美元，并在2028年进一步升至约77亿美元。AI安全市场高速增长主要源于企业急需保护人工智能系统、解决新兴漏洞并加强对复杂网络威胁的防御能力。2027年，人工智能应用安全仍将是最大的支出类别，预计将达到近8.51亿美元，其次是AI使用控制，支出预计将达到7.49亿美元。
风险提示：技术进展不及预期，市场竞争加剧风险。
本文源自：智通财经网
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
