广东
“未来的网络安全防护机制，必须以‘AI监管AI、AI治理AI’的方式来实现。”在4月13日举行的世界互联网大会亚太峰会主论坛上，安恒信息董事长范渊提出了关于生成式AI安全的防御框架体系构想。在他看来，未来网络安全问题不只体现在模型、数据和系统层面，更多体现在智能体层面，随着智能体权限不断扩大，这一防护思路将为整个智能世界建立起更好的秩序和边界。
安恒信息董事长范渊。主办方供图
作为国内数字安全和数据要素领军企业，安恒信息的成就十分瞩目——从2008年北京奥运会到2025年哈尔滨亚冬会，多次承担超大规模赛事安全保障工作，连续17年实现重保零事故。多年的网络重保经历让范渊逐渐意识到，网络安全“攻易守难”已趋于常态化。网络攻击特点从早期利用简单重复的工具，发展到如今具有高级别、高隐蔽性、高复杂性，而驱动这些变化的最大因素是AI。
会后接受南都记者采访时，范渊从行业角度谈到，AI正在深刻改变网络安全攻防格局。一方面，AI使网络攻击效率和能力显著提升，攻击成本大幅降低，并催生出新型攻击手段，比如更逼真的社会工程学攻击、钓鱼乃至挂马手段等，对现有安全防护模型形成巨大冲击。去年的快手直播间事故是一次典型的警示，AI可以高效模拟人类甚至表现得更加智能，自主完成思考、规划和执行，企业面临网络攻击升维挑战。
另一方面，他指出智能体是改变网络安全行业的一项革命性技术，其赋予大模型实际行动的能力，不仅能够快速识别复杂的网络安全威胁，还能够针对不同安全场景迅速作出响应，灵活调整识别策略与防护机制。
在极大提升网络安全防护时效性、准确性的同时，“龙虾”爆火等事件也进一步将智能体安全问题摆到台面上。在范渊看来，智能体打破了“最小权限原则”，天然具有“最大权限”特性，因此安全防护机制必须以“AI监管AI、AI治理AI”的方式实现，并强调“安全理念应成为基础设施的一部分，而非事后‘打补丁’”。
近年来，政务和企业运营领域兴起部署私域大模型，即利用企业内部数据和知识训练垂直大模型，用于处理企业内部任务。谈到具体的风险类型，范渊以此为例，指出私域大模型面临系统默认配置风险、训练数据安全问题、模型投毒、智能体权限过大、黑盒特性带来的不可控问题等，值得重点关注。
过去几年里，在政策合规与市场需求的双重驱动下，网络安全产业经历了一段快速增长时期，产业规模迅速扩张。如今随着竞争格局重塑，企业盈利能力备受考验，有关“内卷”的争议不断。
针对这一现象，范渊明确表示安恒反对恶性低价竞争。据他观察，真正关注安全能力的客户不会一味追求最低价，因为“最低价往往满足不了需求”。同时，随着国内安全行业更加重视实用性和成本效益，国家“反内卷”政策一直为行业健康发展提供支持，网络安全产业有望形成层次分明、协同高效的发展格局。
中关村实验室首席科学家、中国工程院院士、研究员云晓春近日公开表示，中国网络安全领域正面临人才短缺和经验断层，全球网络安全人才缺口为480万，我国人才缺口为145万，占全球的30%。范渊对此也深有感触，称我国网络安全人才存在明显的供需错配问题，未来企业更需要复合型、融合型人才：除了具备扎实的网络安全知识，还要有AI素养和AI思维，会使用AI工具。
范渊还向南都记者提出了一个前瞻性观点——百万人才缺口未必需要全部用“碳基”人类来填补，其中一部分将由“硅基”的AI占据。“也许最终只需要30万人类员工，另外70万岗位可以由AI来承担。”
他以安恒信息AI安全服务数字员工“安小龙”为例讲到，当前，一个智能体就能完成过去安全服务、渗透测试等工作中99.9%的任务。在这种新模式下，人类员工的角色将转变为驾驭和指挥数十上百个智能体，由智能体完成绝大部分工作，人类做最后的核查和确认。
对于包括各种黑客在内的现有网络安全从业者，范渊表示，人类的价值依然不可或缺，但前提是必须深度融入AI和智能体能力，“如果不会使用、驾驭AI，效率低到一定程度就会被替代。”
采写：南都N视频记者 樊文扬 程姝雯
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
