审查是底线 服务是保障 人工智能治理制度彰显“伦理先行”

科技向善，伦理先行。科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范，是促进科技事业健康发展的重要保障。当前，人工智能作为引领新一轮科技革命和产业变革的战略性技术，正在深刻改变人类生产生活方式。但从全球范围看，人工智能科技伦理治理是长期性、基础性、系统性工程，也是一项极具挑战性的工作。习近平总书记强调：“要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控。”近日，工业和信息化部等十部门联合印发《人工智能科技伦理审查与服务办法（试行）》（以下简称《办法》），提出支持人工智能科技伦理审查技术创新，强化以技术手段防范人工智能科技伦理风险，为促进人工智能产业健康发展、加强人工智能科技伦理治理提供制度保障。

坚持审查与服务并重的治理理念

人工智能科技伦理治理，审查是底线，服务是保障。《办法》专设“服务与促进”一章，突破“重监管、轻服务”的固有思路，为伦理合规与科技创新的良性互动提供制度基础。

以标准建设明确合规方向。以往科技伦理审查原则性要求多、可操作规范少，创新主体缺乏明确的合规依据。《办法》推动建立多层次的科技伦理标准体系，鼓励多方参与标准制定与推广，将抽象的伦理原则转化为可对照、可执行的行为准则。

以技术创新赋能风险防控。人工智能科技伦理风险具有隐蔽性和复杂性，传统依赖专家经验的审查模式难以有效识别和量化。《办法》鼓励研发科技伦理风险评估和审计工具，推动高质量数据集开源开放，以技术手段提升科技伦理审查的精准性和可靠性。

以服务供给支撑审查实践。人工智能科技伦理审查专业门槛较高，部分中小微企业合规意愿有余而合规能力不足。《办法》推进服务体系建设，在风险监测预警、检测评估、认证、咨询等方面为创新主体提供专业支撑，以服务保障审查制度有效运转。

以宣传教育夯实治理根基。科技伦理治理不仅是制度建设，更需要社会共识支撑。《办法》通过宣传教育和人才培养双管齐下，一方面，鼓励公众参与、促进实践示范、引导媒体宣传，提升公众伦理意识和素养；另一方面，推动职业体系和课程体系建设、壮大专业人才队伍，为人工智能科技伦理治理夯实社会与人才基础。

构建协同共治的多元治理格局

人工智能科技伦理审查落地见效，关键在于责任清晰、各方协同。《办法》构建起分工明确、层层衔接的多元治理格局，将审查从单一主体的内部活动提升为多方参与的制度化协同。

压实单位自律责任。伦理审查最有效的把关在源头，开展人工智能科技活动的单位最了解自身技术风险。《办法》将高等学校、科研机构、医疗卫生机构、企业等确立为伦理管理的责任主体，要求依规设立科技伦理委员会，配备必要条件保障委员会独立运行，委员会组成人员须涵盖技术、应用、伦理、法律等专业背景，将伦理要求嵌入研发、测试、应用全流程。

搭建专业服务中心。实践中各单位自审能力参差不齐，部分单位难以独立完成高质量的审查工作。《办法》提出建立专业性审查与服务中心，接受委托提供审查、复核、培训、咨询等服务，并明确审查与复核职能分离，确保审查的独立性与公信力。

形成政府监管闭环。单位自律和第三方服务的有效运转，离不开政府的监督管理。《办法》明确各级各部门分工负责的监管体制，要求委员会和服务中心通过国家平台统一登记并提交年度工作报告，实现信息共享、全程可追溯；同时畅通违规问题反映渠道，依据相关法律法规追究违规责任，形成从登记到监督到问责的完整闭环。

建立科学高效的审查工作程序

人工智能科技活动类型多样、风险等级差异悬殊，伦理审查的具体程序须与之相适应。《办法》据此设计差异化的审查制度安排，力求科学精准、务实高效。

明确审查重点。伦理审查要从原则走向实践，必须有可操作的标准支撑。《办法》从增进人类福祉、坚持公平公正、确保可控可信、保持透明可解释、保障责任可追溯、加强隐私保护六个维度明确审查重点，覆盖从训练数据选择到全链路日志管理的关键环节，为审查工作提供明确、具体的判断标尺。

实行繁简分流。审查程序的严格程度应与风险等级相匹配。《办法》建立以一般程序为基础的审查制度，明确审查会议的组成要求、审查时限和跟踪审查机制等；同时对伦理风险不高于日常风险等特定情形适用简易程序，既保证审查严谨充分，又避免不必要的制度负担。

细化专家复核。部分人工智能科技活动影响面广、风险判断难度大，仅靠单位自审难以有效防控。《办法》在既有专家复核清单制度基础上，进一步明确人工智能领域的复核范围和程序，纳入清单的活动须经初步审查后申请专家复核，形成双重把关机制。清单根据工作需要动态调整，相关活动须定期接受跟踪审查，风险发生重大变化的须重新申请复核。

设置应急审查。突发公共事件等紧急状态下，人工智能技术的快速部署同样不能突破伦理底线。《办法》要求委员会和服务中心制定应急审查制度，明确紧急状态下的审查流程和标准操作规程，压缩审查时限，确保快速响应；同时加强跟踪工作和过程监督，确保审查质量不因时间紧迫而降低。

加强人工智能科技伦理治理，是坚守科技向善、筑牢安全底线、推动高质量发展的必然要求。《办法》的出台标志着我国人工智能科技伦理治理从原则倡导迈向制度实践，从观念引领迈向规则之治。黑龙江省应以《办法》实施为契机，坚持以善治促善用，加快配套标准建设，强化审查能力支撑，推动科技伦理要求真正融入人工智能研发应用全过程，筑牢人工智能科技伦理治理的制度基石。

（作者单位：黑龙江省社会科学院）