当算法开始参与城市决策，必须前瞻思考一系列根本性问题

“十五五”规划纲要提出，完善人工智能领域法律法规、政策制度、应用规范、伦理准则，健全算法备案、透明度管理、安全评估等制度。近日，工信部等十部门联合印发《人工智能科技伦理审查与服务办法（试行）》，为我国人工智能科技活动伦理治理搭建了政策框架。这一文件的出台对城市数字化、智能化转型具有特殊意义。作为城市数字化转型的前沿阵地，上海在AI赋能城市决策方面走在全国前列，但也率先面临算法治理等复杂挑战。如何在效率与公平等重大关系之间找到平衡，是上海等数字化转型前沿城市亟待回答的时代命题。

一、城市决策的智能化转型：从单场景工具应用到整体范式变革

城市决策是一个复杂的系统工程，涵盖城市规划、建设、管理、服务等各个环节。传统模式下，城市决策主要依赖行政经验、专家智慧和公众参与的三元互动。随着技术的快速发展，AI正在从辅助工具变为决策参与主体之一，推动城市治理范式发生深刻变革。

在规划决策领域，AI展现出强大的数据分析与情景模拟能力。通过机器学习分析人口流动、产业分布、交通流量等海量数据，AI可以预测城市发展趋势，辅助规划师制定更具前瞻性的空间方案。生成式AI的应用更是让规划方案设计进入“秒级生成”时代，大幅提升了规划编制的效率。

在建设管理领域，智能审批系统正在改变传统的行政许可模式。基于知识图谱和规则引擎等工具和能力，AI可以自动核查建设项目的合规性，实现“秒批秒办”。上海推行的“一网通办”改革中，大量审批事项已经实现智能化处理。

在公共服务领域，算法推荐系统深刻影响着公共资源的配置逻辑。从智慧交通的信号灯配时优化，到水电气等资源的智能调度，再到教育、医疗资源的均衡配置以及市民热线的智能化工单流转处理，AI正在越来越多的领域成为城市运行的“隐形大脑”。

这些智能化转型带来了显著的治理效能提升，但也引发了深层次的伦理关切。当算法开始参与城市决策，必须前瞻思考一系列根本性问题：算法决策的合法性基础是什么？当AI出现“幻觉”或偏差，谁来承担责任？

二、AI赋能城市决策的风险审视

结合《人工智能科技伦理审查与服务办法（试行）》提出的审查重点，AI赋能城市决策面临以下风险：

第一，公平公正风险。城市决策涉及公共资源的配置和利益的再分配，公平性是其核心价值诉求。然而，算法并非价值中立，训练数据可能带有历史偏见，模型设计可能嵌入开发者的价值偏好，优化目标可能忽视弱势群体的利益。例如，如果智慧交通系统只追求机动车通行效率，可能加剧对行人和非机动车路权的挤压；如果城市更新算法只关注经济回报，可能导致低收入社区被边缘化。

第二，透明可解释风险。城市决策需要公众参与和民主协商，而许多AI大模型天然具有“黑箱”特性，其决策逻辑难以被人类理解。当规划方案由AI生成、审批决定由AI辅助、公共服务由AI分配时，公众如何有效参与？决策者如何向市民解释“为什么这样决定”？透明度的缺失将削弱城市治理的公众参与基础。

第三，可控可信风险。城市规划和管理涉及公共利益和长远影响，一旦AI系统出现偏差，后果可能是不可逆的。生成式AI可能产生“幻觉”，输出看似合理实则错误的建议；自动化系统可能无法应对复杂情境中的例外情况；算法模型可能在面对新型问题时“失效”。如何确保AI赋能城市决策的可靠性和安全性，是需要关注的重要挑战。

第四，责任追溯风险。传统的城市决策有明确的责任主体——决策者对其决定承担责任。但当AI深度参与决策时，责任边界变得模糊：是算法开发者、数据提供者、系统使用者，还是AI本身？责任归属的不清晰，可能导致“无人负责”的治理困境。

第五，隐私安全风险。AI参与城市决策依赖海量数据，其中包含大量个人敏感信息。从人脸识别到位置追踪，从消费记录到健康数据，如何在发挥数据价值的同时保护个人隐私，是运用AI治理城市必须守住的底线。

三、完善AI赋能城市决策的算法治理框架

针对上述风险，建议从以下几个维度完善AI赋能城市决策的算法治理框架：

第一，加快构建分级分类的伦理审查机制。对于辅助性的数据分析工具，可采用简易程序；对于直接影响公共资源配置的决策系统，应适用一般程序；对于涉及重大公共利益、可能影响基本权利的高风险应用，必须启动专家复核程序。上海可以依托现有的“一网通办、一网统管”体系，建立城市AI应用的伦理审查平台，实现审查流程的数字化和标准化。同时，鼓励高校、科研机构和企业参与伦理审查研究，形成多元共治的治理格局。

第二，强化人机协同的决策模式。AI应定位为决策者的助手而非替代者，关键决策环节必须保留人类判断，算法输出需要经过专业人员的审核与解释。《人工智能科技伦理审查与服务办法（试行）》规定，三类人工智能科技活动需要开展专家复核：一是对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发；二是具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发；三是面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发。不难发现，各类城市治理决策与上述三类活动紧密相关，建议建立“AI建议+人类决策”的双层机制：AI负责数据处理和方案生成，人类负责价值判断和最终决断。例如，在规划决策领域，可以探索“AI生成方案—专家论证—公众参与—政府决策”的协作流程；在政务服务领域，可以建立“智能审批+人工复核”的把关机制；在公共服务领域，可以设置“算法推荐+用户选择”的弹性空间。

第三，完善数据治理与算法审计制度。建议进一步完善城市数据治理标准体系，对用于AI决策的数据进行质量评估和偏见检测。定期开展算法影响评估，特别是对涉及弱势群体、历史保护、生态敏感区等特殊情境的AI应用，应建立专项审查制度。上海可以依托数据交易所等平台，探索建立数据质量认证和算法审计的市场化机制。同时，建立算法影响公示制度，让市民了解哪些公共服务涉及AI决策，并提供意见申诉渠道。

第四，推动算法透明与公众参与。积极发展可解释AI技术，使城市决策的逻辑能够被专业人士和公众理解。对于影响公众利益的AI应用，应公开其基本原理、数据来源和决策规则。例如，在规划编制、政策制定等关键环节，保障公众的知情权和参与权。可以探索“算法公开+公众评议”的模式，让技术专家、利益相关方和普通市民共同参与AI赋能城市治理的相关规则制定。

第五，加快培育复合型治理人才。AI赋能城市治理，需要既懂城市运行规律又懂技术逻辑的复合型人才。建议加强高校相关学科建设，推动城市规划、公共管理、计算机科学等学科的交叉融合。在干部培训中增加AI伦理和数字治理内容，开发面向党政领导干部的AI治理专题课程，提升领导干部的数字素养和伦理意识，加快培养一批懂技术、善治理的复合型人才。

城市是人类文明的载体，城市决策关乎千万人的切身利益。AI为城市治理带来了前所未有的工具革新，但技术始终应服务于人的福祉。我们不仅要思考“AI能做什么”，也应同步关注“AI应该做什么”，在效率与公平、创新与稳健、技术理性与价值关怀之间找到善治平衡点。

（作者为中国浦东干部学院公共政策研究中心主任、教授）

原标题：《解·析｜加快构建AI赋能城市决策的算法治理框架》

栏目主编：王珍 文字编辑：王珍 题图来源：视觉中国 图片编辑：曹立媛 编辑邮箱：shhgcsxh@163.com

来源：作者：焦永利