上海
在2026全球数贸会·西湖论剑大会上，AI安全成为重要议题。
过去几个月，AI大模型安全事件时有发生，风险正在快速外溢。比如，OpenAI智能体协同入侵Hugging Face、Anthropic的Claude模型在测试中未授权访问3家机构系统等。
据海外机构今年9月发布的一份AI行业报告，89.5%的组织在过去12个月中遭受过生成式AI相关的安全入侵，较2025年的75.1%显著上升；88.4%的组织报告至少发生过一起与AI代理相关的泄露/入侵事件。
随着AI技术的发展，网络安全发生了显著变化。AI系统大模型越来越多参与系统的生成、任务理解、作出决策并执行动作，其正在改变信息系统的构成、行为方式、对抗模式和治理对象。
以对抗模式为例。西湖论剑大会多位嘉宾提到，网络安全其实也是一种对抗，目前的对抗模式由以前的人为主体转变为以Agent为主，Agent自主决策、自主执行。
此外，安全系统的边界也在呈动态变化，行为路径的不确定性增强了，人机交互下留给人类的干预窗口正在收窄。在Agent自主执行场景下，人类可能还来不及理解，没有时间介入、没有手段介入，这也使得系统面临着更大的风险。
大模型与智能体技术的出现，也正在推翻并重构传统的安全防御范式。
中国工程院院士吴世忠表示，“系统的内生风险超越了外延攻击，现在最大的危险不再仅仅是黑客入侵，可能还有算法本身的不可解释性、偏见、幻觉以及被诱导后的越权执行，也就是恶意行为。安全的核心变成了对智能系统怎么样校准、怎么样对齐。”
安恒信息研究院院长王欣在接受第一财经记者采访时也表示，这两年AI大模型的发展已经打破了“攻防平衡”。他提到，原来攻击者和防御者的能力水平差不多，这意味着攻击者实施犯罪的成本也会比较高。
这一系列变化直接引起了网络安全市场的调整。比起传统网络安全，目前AI安全需求迎来了高增长，已经有不少企业正在布局。
据IDC预测，中国人工智能安全收入将从2025年的44.1亿元增长至2030年的340.3亿元，五年复合增速约50.5%。作为对照，中国网络安全整体市场2024-2029年复合增速仅约8.9%，2026年整体规模约800亿元。AI安全市场的预计增速显著高于网络安全行业整体。
王欣介绍称，近两年企业端对于AI安全问题也越来越重视。他提到，原来的安全业务主要是围绕人为核心的检测和防御，未来可能会转向以AI为核心。
吴世忠认为，AI时代的博弈已经升级为“掌握了AI的人”在数字空间的较量，网络安全行业需要学习并掌控AI。
“从时间上来看，要从事后响应变成时间真空级的预测。”吴世忠表示，在毫秒级的时间窗口内，AI要在海量的网络噪音中精准捕捉到极其隐蔽的攻击前兆，在高级可持续威胁还没有形成的时候就能完成精准的预判甚至可能拦截，这将打破过去先被攻击、后补漏洞的滞后性。
安恒信息已经在进行相关业务的探索。记者注意到，西湖论剑大会现场发布了将为政企单位提供全天候智能防护的“X安全数字员工”，以及推动安全能力智能化生产与普惠化服务的“安全Token工厂”。
“过去的安全能力输出方式主要是由人提供服务，安全Token工厂是在高质量数据集基础上建立大模型智能体，之后再通过Token化的方式给千行百业提供服务。”王欣介绍，安全工厂之后将采用Token消耗的方式收费，倾向于解决具体的安全任务。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
