北京
来源:光明网
光明网北京6月24日电（实习记者 朱昱晗）第十四届互联网安全大会（ISC.AI 2026）24日在北京召开。中国工程院院士、国家新一代人工智能战略咨询委员会委员、中国人工智能学会党委书记、副理事长赵春江表示，当前，人工智能在金融、政务、服务、物流等服务业领域渗透较快，在实体经济领域的应用仍需进一步加强，安全问题的重要性愈发凸显。
“AI系统安全风险覆盖数据层、模型层、应用层、基础层四大维度。”赵春江认为，随着2025年多智能体开启商业化应用、2026年应用更加广泛，新型风险持续涌现：身份伪造、模型失效、权限管理漏洞与通信劫持、恶意勒索、提示、注入与越狱、会话、劫持与控制缺失等问题凸显；同时还存在人工智能驱动的隐含数据挖掘、模型训练数据投毒等风险，对模型精度与决策可靠性形成冲击。
“在当前的背景下，我们要加强主动防御，从被动到主动的免疫角度来考虑，能够有效提高未来整个系统的安全。”赵春江说。
针对人工智能背景下的安全新变化，赵春江提出构建五层技术防御框架：第一是数据层：聚焦实现数据“可用、不可见”，通过隐私计算、联邦学习、数据清洗、权限管理等技术手段筑牢数据安全防线；第二是模型层：着力增强模型鲁棒性，依托对抗训练、安全对齐、高强度红队测试、价值导向引导等方式，从源头提升模型安全性能；第三是应用层：构建零信任安全架构，实施动态访问管控；第四是检测层：强化全链路溯源能力，运用深维检测、多模态分析、数字水印、内容鉴真等技术实现风险精准识别与追溯；第五是基础设施层：重点破解智算云安全问题。
赵春江建议，在未来，遵循网络安全框架，选取医疗、金融、政务等重点领域开展安全防护技术示范性应用，验证防护措施成效，以点带面推动行业整体安全能力提升。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
