北京
本文转自：人民网
栗翘楚
新华三集团高级副总裁、新华三信息安全技术有限公司总裁孙松儿发言。孙宁摄
人民网北京5月9日电 （记者栗翘楚）5月9日，“可信语料筑基，智能生态共赢——2026人民网数据智能伙伴大会”在人民日报社举行。新华三集团高级副总裁、新华三信息安全技术有限公司总裁孙松儿在主题分享环节表示，在AI应用加速爆发的时代，要以AI全面赋能安全能力提升，以安全守护AI健康发展，高质量安全语料数据集建设是关键基础。
孙松儿表示，AI在提升生产效率、带来便捷的同时，也带来了安全挑战。算力边界安全、模型漏洞利用、数据训练污染等问题日益突出。AI同样被攻击者利用，如开源大模型降低了漏洞挖掘的技术门槛，AI生成的钓鱼邮件、勒索软件模仿用户生态和仪态，上述现象值得关注。
传统的安全防护手段，对新的安全攻击是否仍然有效？孙松儿给出的答案是“拥抱AI”。他表示，业界安全技术发展的趋势只有一个方向——用AI来强安全，用安全来保AI。围绕算力、模型、应用三个层面，需要构建综合安全治理体系，安全的底座至关重要。
孙松儿直言，打造安全的大模型，离不开高质量的安全语料数据集，从攻防对抗的实战视角，将渗透、防护等专业领域知识转化为可用于训练的语料对，是重要方向。建议由牵头单位或联盟推动，形成产学研用协同的安全语料建设机制。
谈到模型安全护栏，孙松儿表示，无论是涉黄、涉恐识别还是合规检测，都需要高质量语料数据集的支撑。在这方面，人民网具备权威性、完整性的先天优势。
“安全和AI，目前从发展方向来看，大家都在拥抱，它不是简单的零和博弈。”孙松儿说。
对于当前AI智能体应用，孙松儿以“龙虾”为例提出思考：“‘龙虾’很火，但目前都是对公域数据的调用。企业要用‘龙虾’，必然涉及核心业务系统的开放，身份管控和权限控制不解决，‘龙虾’走不进企业。”他认为，需要一套AI安全网关作为中间件，做好智能体的身份管理和后端业务系统的权限控制。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
