广东
近日，由中国互联网协会主办的2026(第二十五届)中国互联网大会在北京国家会议中心举行。本届大会以“智启新程·融创未来一一以数智合力谱写'十五五'发展新篇章”为主题，汇聚政产学研用各界代表，围绕人工智能、算力网络、数据安全等议题展开交流。
在大会分论坛——“第三届智能体创新推进论坛”上，中国互联网协会正式发布两项AI安全系列团体标准《大模型安全护栏能力技术规范》和《大模型服务与应用安全评测技术规范》。芳禾数据作为核心参编单位，深度参与标准制定工作，此举标志着公司在人工智能领域的知识产权布局与技术标准化战略迈出了坚实一步，彰显了深厚的技术积淀。
本次发布的两项标准由广州市云山人工智能安全研究院牵头，联合芳禾数据等来自产、学、研、用多领域的单位共同编制，两项标准均由中国互联网协会归口发布，旨在为大模型安全领域提供标准化的技术指引。
标准的价值，不只是定义技术术语，更在于为快速发展的产业建立一套可以共同理解、共同执行、共同验证的方法。过去，大模型安全更多关注内容审核与输出合规。随着Agent、RAG和多工具调用加速应用，安全问题已经延伸至模型输入、推理过程、知识检索、工具执行、多轮交互和持续运营等环节。
本次发布的两项标准，分别回答了AI安全落地中两个关键问题:如何建设，如何评价。
《大模型安全护栏能力技术规范》围绕"如何建设",提出由输入防护、推理监测、输出防护、安全干预、日志审计、策略管理和人工复核等模块构成的技术架构，并针对提示词攻击、敏感信息泄露、知识库污染、工具调用劫持、多轮对抗等风险提出相应要求。
《大模型服务与应用安全评测技术规范》围绕“如何评价”，建立覆盖提示词攻击、敏感信息泄露、有害内容生成、工具调用、多轮行为偏移及多模态风险的检测方法,并设置风险识别率、拦截成功率、误报率等量化指标，为AI系统提供统一、可验证、可复用的评价依据。
两项标准不仅确立了行业“度量衡”，更为芳禾数据的技术实践提供了最佳注脚。依托自主密态智算核心技术，芳禾数据构建了集“安全、智能、运营”于一体的AI数据基础设施，以“飞数—AI数据基础设施”为核心载体，已汇聚700+优质数据源生态伙伴，率先破解了AI时代数据“供不出”与“流不动”的难题。面向未来，芳禾数据将立足国家级数据基础设施建设，坚持原始数据“可用不可见”，推动数据要素高效流通。通过转动“产业+数据+AI”价值飞轮，公司将持续为高价值场景输送核心数据燃料，驱动AI模型进化，全面赋能千行百业数智化转型。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
