人工智能科技伦理审查先导计划落地 覆盖十大重点省份

中经记者 孙丽朝 北京报道

5月9日，工信部发布《关于实施人工智能科技伦理审查与服务先导计划的通知》（以下简称《通知》），正式启动人工智能科技伦理审查与服务先导计划（以下简称“先导计划”），依托国家人工智能产业创新应用先导区所在省份，率先探索人工智能科技伦理审查与服务的落地路径，健全多方参与、协同高效的治理机制，支撑人工智能负责任创新和产业高质量发展。

当前，随着人工智能技术快速迭代，算法歧视、情感依赖等科技伦理风险日益凸显。如何建立人工智能科技伦理审查与服务机制，有效防范科技伦理风险，成为亟须解决的问题。

今年4月，工信部等十部门联合发布了《人工智能科技伦理审查与服务办法（试行）》（以下简称《办法》），对人工智能科技伦理审查与服务的适用范围、服务促进、实施主体、工作程序、监督管理等作出规定。

《通知》提出明确的工作目标：围绕实施《办法》，打通部、省、市政府部门人工智能科技伦理审查与服务工作链条，健全多方参与、协同高效的治理机制，推动人工智能科技伦理审查与服务在重点城市率先落地，建设一批专业机构和人才队伍，验证并制定5项以上相关标准，基本建成人工智能科技伦理风险案例库，研发一批技术工具和方法，选树一批典型示范应用，助力人工智能负责任创新和产业高质量发展。

北京市社会科学院副研究员王鹏在接受《中国经营报》记者采访时表示，《通知》的出台标志着中国AI治理从“软约束”走向了“硬落地”，其核心作用在于为快速狂奔的技术套上了“安全带”，通过标准化的伦理审查流程，将风险前置到研发阶段。这不仅能有效降低企业因违规被“叫停”的法律风险，更是在全球AI治理话语权争夺中，输出了中国式的治理样本。

在实施范围上，《通知》直接“点名”了北京、上海、广东、山东、天津、四川、江苏、湖北、湖南、浙江工业和信息化主管部门，明确提出在国家人工智能产业创新应用先导区所在省份范围内实施先导计划，省级工业和信息化主管部门结合本地区实际情况，组织各先导区城市及有意愿的其他城市参与。

王鹏表示，选择北京、上海、广东等10个省份，本质上是基于“产业浓度”与“监管耐受力”的双重考量。这些地区不仅拥有全国最顶尖的算力基础设施和模型研发团队，更关键的是它们已经形成了较为完备的数字政府治理体系。北京的政策先行区经验、广东的市场化应用深度、上海的国际化标准对接等，使得这些地区在应对伦理争议（如算法黑箱、数据确权）时，具备更强的抗压能力和纠错空间。

《通知》明确了重点领域，提出参加先导计划的城市在人工智能基础底座领域（必选，如数据、算法、模型），以及制造、教育、科技、文化、医疗、金融、农业、旅游、消费等垂直应用领域（每个城市选择3个以上领域）率先开展人工智能科技伦理审查工作。

在王鹏看来，设计“必选基础底座+垂直自选”的模式，体现了对AI风险传播链条的深度洞察。基础底座（数据、算法、模型）是AI的基因，必须统一审查以防止系统性的偏见或恶意诱导。而垂直领域的侧重点应遵循“风险等级”原则，医疗与制造属于“物理风险型”，审查重点必须放在安全性与可解释性上，例如当AI给出诊断或控制机械臂时，必须确保其逻辑可回溯，且在极端情况下有人类强制介入的“一键停机”机制。金融与教育属于“社会公正型”，审查重点应放在算法公平性，例如金融算法是否因地域、性别产生授信歧视，教育模型是否通过信息茧房限制了青少年的视野。

“这种分类治理确保了监管不搞‘一刀切’，既保护了公共利益，又给企业留出了创新的弹性。”王鹏表示。

（编辑：朱会珊 审核：朱紫云 校对：陈丽）