四川省政协委员嘎拉茶：做好人工智能网络检索信息污染防控

人民网成都2月5日电 (记者郭莹)人工智能技术加速渗透，AI网络检索已成为企业研发、群众生活、政务决策的重要信息获取渠道。确保AI工具在检索、整合信息过程中，不因数据、模型或应用环节的问题，产生失真、错误、冗余的信息并传播，有利于推动相关产业健康发展。

四川省政协委员嘎拉茶。受访者供图

今年四川省两会期间，四川省政协委员、绵阳市农业农村局副局长嘎拉茶对这一问题给予关注。在她看来，人工智能网络检索信息污染主要体现在三方面：一是网络上的虚假信息误导产业发展；二是算法偏差加剧信息茧房，部分AI企业过度依赖单一数据源和用户点击率，容易导致检索结果片面化；第三，相关领域风险防控体系也存在短板。嘎拉茶说，“目前，省内权威数据资源整合还有不足之处，AI算法监管、公众监督机制尚未形成闭环。”

针对上述情况，她建议防范化解AI信息污染风险：

首先是构建分层管控体系，筑牢数据源头防火墙，夯实川内AI发展数据根基。“我们可以依托四川大数据中心、重庆市市级数据资源平台，统筹构建川渝一体化公共可信数据资源库，重点纳入司法案例、企业征信、历史决议、食品安全监管等领域权威数据。”嘎拉茶表示，监管部门应强制要求在川运营AI企业优先接入该数据库，统一以官方调查报告、处罚文书作为核心数据源，从源头杜绝虚假信息投喂。另外，还要同步推动数据库与成都人工智能产业集聚区等重点区域企业对接，为川内AI企业提供合规数据支撑。

“四川还应建立适配四川产业的风险动态熔断机制。”嘎拉茶建议，四川省网信办、省市场监管局牵头，联合高校科研机构制定《四川省互联网信息可信度评级地方标准》，结合全省电子信息、食品饮料、乡村振兴等重点产业特点，对商业数据源实施‘风险等级标记+动态认证追踪’管理。对涉及食品、医药、农业等敏感领域的数据源，划定高风险红线。“这样一来，一旦检测到歪曲事实、误导公众的信息，便可立即启动熔断机制，暂停该数据源接入，并通报监管依法处置，防止风险信息扩散蔓延。”

嘎拉茶还建议，在全省构建算法阳光监管“四川模式”，依托四川数字政府建设成果，建立省级统一的AI算法备案与审计平台。

“另外，监管部门还可以借鉴四川对白酒、装备制造等行业的质量监管经验，对AI模型实施‘专项+年度’双审计，重点审计算法是否存在偏见、是否准确引用权威数据，将审计结果与企业享受四川人工智能产业扶持政策、参与政府项目招投标挂钩，倒逼企业落实主体责任。”嘎拉茶说。