北京
分享至
9月15日消息，针对前沿AI技术快速发展带来的安全风险，360近日表示，放缓AI技术迭代只能为安全治理争取时间，无法从根本上解决风险，AI安全不能仅依赖厂商自我审查，还需要引入独立第三方攻防力量进行安全校验。
360认为，随着大模型和自主智能体能力提升，AI正在获得网络访问、跨系统调用等更多权限，一旦出现失控、越权或数据泄露，可能进一步放大网络安全风险。传统由厂商自行建设、自行检测和验证的安全模式存在检测盲区，需要通过外部攻防测试补充安全验证。
在技术方案方面，360提出“以模治模”的AI安全思路，即通过AI对AI进行检查和约束。在大模型安全领域，其安全体系覆盖训练、推理、应用和运营等环节，包括风险评测、内容安全防护、数据保护和运行动态监测等能力。
针对智能体安全，360则建立覆盖事前风险评估、事中动态拦截和事后溯源审计的管控体系。公司披露，旗下“图龙锋”可用于主动发现未知漏洞，自上线以来已累计挖掘AI相关漏洞超过万个。
360集团创始人周鸿祎此前表示，随着AI能力增强，其失控后的潜在破坏力也会提高，因此AI安全治理需要进一步前置。360认为，在AI技术持续迭代的背景下，第三方独立攻防校验有望成为AI安全体系的重要组成部分。（定西）
