百度：百度大模型内容安全解决方案

近日，工业和信息化部印发了《关于印发人工智能赋能新型工业化典型应用案例名单的通知》（工信厅科函〔2024〕493号），公布了151项人工智能赋能新型工业化的典型应用案例。

这些案例旨在通过示范引领，推动人工智能技术在新型工业化中的广泛应用，加速新质生产力的形成与发展。其中，由市经济和信息化局推荐的10个案例上榜，展现了北京市在人工智能赋能新型工业化方面的积极进展和示范作用。

人工智能赋能新型工业化典型应用案例展播第八期：百度大模型内容安全解决方案

北京百度网讯科技有限公司（简称“百度公司”）是全球为数不多的提供AI芯片、软件架构和应用程序等全栈AI技术的公司之一，基于搜索引擎，百度演化出语音、图像、知识图谱、自然语言处理等人工智能技术；最近10年，百度在深度学习、对话式人工智能操作系统、自动驾驶、AI芯片等前沿领域投资，使得百度成为一个拥有强大互联网基础的领先AI公司。

百度大模型内容安全解决方案，围绕生成式大模型AIGC场景，打造了功能完备、服务全面的大模型内容安全产品矩阵，支持开箱即用地构建大模型安全能力，重点解决第三方大模型落地应用时面临的生成内容合规、大模型内生安全提升、大模型运营常态化风险收敛等安全问题。

整个大模型内容安全解决方案包含外挂式内容安全检测工具、大模型内生安全增强与大模型内容安全评测等安全服务。其中外挂式内容安全检测工具基于高质量的数据合成与人工审核，支持多模态类型输入和输出内容的高精准过滤，覆盖涉政、涉黄、涉赌、涉毒、歧视偏见等41个类别，保障客户大模型生成内容合格率在99.74%以上；大模型内生安全增强提供覆盖政府官网、官媒、百科知识的信任域检索库，通过语义知识点生成、高精度检索召回排序与知识图谱检索增强技术，按官方口径准确回答涉政、热点舆情等安全范畴问题，避免大模型幻觉引发风险内容生成；大模型内容安全评测基于self-instruct多样性生成、毒性增强、毒性分级等评测数据生成技术，实现端到端的内容安全测评与风险评估，并以数据增强与数据上车方式提供数据驱动的大模型安全增强。

百度大模型内容安全解决方案对内有效支撑文心千帆平台的50余个第三方开源大模型内容合规，对外支撑多个通用大模型客户与金融大模型、交通大模型、物流大模型、汽车大模型等行业大模型客户，以及AIPC、AIPad、AIPhone等AI设备客户共建完善健全的大模型内容安全防护体系，助力多个行业通过大模型技术重构现有业务应用，实现行业客户综合提效30.2%，极大地推动了行业客户的战略转型与竞争力提升。百度大模型安全解决方案被列入到信通院编写的《大模型可信赖研究报告》，斩获Freebuf “WitAwards 2023年度优秀网络安全解决方案奖”与2024世界智能产业博览会“Find智能科技创新应用典型案例”。

人工智能赋能新型工业化典型应用案例展播第八期：百度大模型内容安全解决方案