杨剑宇代表：加强人工智能安全治理，强化内容核验与管理

来源：市场资讯

（来源：澎湃新闻）

今年全国两会期间，全国人大代表，中国移动浙江公司党委书记、董事长、总经理杨剑宇建议，加强人工智能安全治理，强化数据语料源头治理、模型算法风险管控、人工智能内容管理与核验，更好推动人工智能产业行稳致远。

杨剑宇代表。图片来源：中国移动浙江公司

杨剑宇表示，目前，我国人工智能安全治理已初步形成顶层规划与原则框架，但在具体落地中仍存在一些问题，包括语料库的合规性管理有待加强、防范“人工智能作恶”的系统性监管不足、创新与安全的平衡面临产业博弈等。例如，在防范方面，“利用人工智能技术进行深度伪造，进而鱼目混珠、扰乱视听甚至违法犯罪的现象层出不穷，现行监管机制在事前预防、事后监管、责任追究等方面均面临新的挑战”。

“筑牢安全底座，人工智能方能行稳致远。”杨剑宇建议，加强数据语料源头治理。鼓励建立训练数据来源记录与披露制度，明确要求大模型研发厂商提供清晰的开源协议证明或商业授权文件，健全内容安全过滤机制，推动构建合规的数据授权使用渠道，为产业提供清晰的合规指引；落实个人敏感信息收集、处理的“目的明确、路径可溯”要求，完善从“明确告知”到“操作可追溯”的监管操作细则；强化跨部门联合执法司法，严厉打击恶意爬取数据、批量生成侵权内容等行为，切实保障数据合规流动与价值释放。

同时，强化模型算法风险管控。完善算法与大模型备案机制，在现有《生成式人工智能服务管理暂行办法》法规基础上，对具有舆论属性或涉及重大公共利益的人工智能算法与服务，加强算法类型、语料来源、安全评估等方面的审核审查；开展算法安全与伦理审计，定期评估大模型公平性、透明度及潜在风险，并予以公示；根据各类主体对系统的实际控制力和可预见风险的能力，明确人工智能系统开发者、部署者、使用者的责任边界和法定义务清单。

此外，加强人工智能内容管理与核验。推动建立具有公信力的人工智能生成内容检测和溯源平台，打通不同平台、不同模型的标识数据接口，加强人工智能生成内容的源头审核、过程监测和溯源管理，支持对疑似人工智能生成内容的快速核验与溯源追踪，“让人工智能造假无处遁形”。