技经观察丨从拜登政府推行“首席人工智能官”机制看：人工智能技术监管与应用

当前，以生成式人工智能为代表的科技革命席卷全球，引动各类创新实体加紧布局人工智能研究与应用创新。与此同时，各国政府围绕人工智能技术的监管与应用亦提上日程。2023年10月30日，美国总统拜登正式签署第14110号行政命令“安全、可靠和值得信赖的人工智能开发和使用”，提出联邦机构要选拔并增设本部门的首席人工智能官（Chief AI Officer，CAIO）。该制度安排既延续了以往美政府在管理领域设立“首席官”的监管范式，又创新了政府对人工智能领域的监管形式。本文综合分析了该制度推出以来拜登政府的执行情况，从机构改革、技术监管、数字转型等角度对美设立CAIO的制度安排进行深入分析总结，以期带来新的思考与启示。

一、CAIO是拜登政府落实人工智能监管与应用的重要抓手

拜登政府将设立首席人工智能官作为联邦机构建人工智能治理结构的抓手，持续推动各机构人工智能治理与创新，同时监管人工智能应用风险。

（一）职务设立依据

2023年10月30日，美总统拜登就任内期间人工智能治理的系列举措签署“关于安全、可靠和可信地开发和使用人工智能”的行政命令，其中提出由美国行政管理和预算局（OMB）组织各联邦机构增选设立首席人工智能官。2023年11月1日，OMB就联邦各机构实施人工智能制定指南，其中提出，各联邦机构应任命首席人工智能官。

（二）职位职责要求

首席人工智能官职责核心是“安全、可靠和可信地开发和使用人工智能”。目前，纵览美国各机构已推出的首席人工智能官，其具体职责主要围绕“协同协调、技术创新、风险管理”三个方面展开。

协同协调方面，一方面，对内负责机构内人工智能事项协调，担任机构内人工智能事项决策高级顾问，维护机构年度人工智能用例清单；另一方面，对外沟通机构间人工智能管理事项。

技术创新方面，一是优先设计本机构领域内人工智能用途；二是消除本领域人工智能技术应用的“阻碍”；三是对人工智能技术进行良性宣传。

风险管理方面，首先，负责识别本机构领域内人工智能风险；其次，修订本机构人工智能监管流程并负责监督流程执行；最后，就本机构内人工智能应用风险进行评估，制定影响安全和人类权利的风险清单。

（三）美国机构设立CAIO情况

当前，美联邦机构正密集任命首席人工智能官，但任命形式各有不同。具体情况如下表所示：

二、CAIO凸显美政府与人工智能监管的最新变革

从特朗普政府到拜登政府，全球人工智能经历了新一轮发展浪潮，特别是2022年11月OpenAI公司公测人工智能聊天机器人ChatGPT以来，全球人工智能发展进入新一轮爆发期，美政府机构与人工智能的监管关系也随之出现调整与变革。

（一）体现了美政府对人工智能技术与应用的重视

美政府历来高度重视人工智能发展，长期资助人工智能技术研究。近些年来，美人工智能企业处于高速增长期，其产品日新月异，一定程度上引领了全球人工智能发展。与此同时，政府对人工智能监管已同步提上日程，从监管角度看，全面推广和设立首席人工智能官是拜登政府在人工智能监管与应用的重要举措。

该制度由本届政府全面推广。首席人工智能官制度并非始于2023年。据笔者梳理，在“关于安全、可靠和可信地开发和使用人工智能”的行政命令发布前，已有国防部、卫生与公众服务部、国土安全部等部门设立首席官，针对本领域人工智能应用与监管开展相关工作。对于拜登政府而言，应明确设立首席人工智能官标志着本届政府对人工智能管理的全面启动与深入推广。

（二）体现了美政府数字化趋势

美政府在90年代便开启推动政府数字化建设，其数字政府建设历经约30年，正从数据驱动向人工智能驱动转变。

1.起始阶段。美政府数字政府建设历程可追溯至上世纪90年代。在1995年，《信息技术管理改革法案》(ITMRA) 和《联邦采购改革法案》(FARA) 作为《1996 财年国防授权法案》的一部分签署成为法律，随后1996年被指定为《1996 年克林格·科恩法案》（Clinger Cohen Act 1996）。该法案首次明确了要推动信息技术在美政府机构和业务流程中使用，要求各联邦机构就信息与数据领域增设“首席信息官”（Chief Information Officer），负责本机构本领域的IT领域投资与改革进行。该机制的牵总管理部门设立在OMB，由OMB进行年度管理与预算考核。

2.发展阶段。随着信息技术发展，美政府接连出台信息技术相关领域监管法案，持续推动数字政府建设。

1995年，美政府率先修订《文书减少法案》（Paperwork Reduction Act），为政府数字化奠定关键基础，其中提出要求联邦机构创建、收集、维护、使用、共享信息，降低信息传播成本。

1998年，美政府推出《政府文书消除法》（Government Paperwork Elimination Act），进一步界定电子文档使用范围，大范围消减纸质文档，特别提出公民可通过电子方式与政府互动。

2000年，美政府编制出台《信息自由法》（Freedom of Information Act），强制规定了政府信息披露的信息程度与机构范围。

2002年，美政府颁布《联邦信息安全现代化法案》（Federal Information Security Modernization Act），其中就信息安全进行详细阐述，修订了政府信息安全职责，增加了重大信息安全事件的披露机制。

3.强化阶段。伴随着互联网企业在全球兴起，原有联邦法律界定的政府信息技术管理与应用职责略显局促，美政府根据技术发展需要进一步扩充联邦政府信息技术管理职责。

2014年，美政府颁布《联邦信息技术采购改革法案》（Federal Information Technology Acquisition Reform Act）。该法案扩充了政府IT系统使用范围，赋予政府更多IT使用权限，提出构建数字中心的创新举措。为协助机构落实，OMB进一步修改首席信息官职责，加强了对IT系统改造与投资的监督，特别是增加数据中心整合职能。各联邦机构顺势调整首席信息官职责范围，部分机构逐渐开始增选首席数据官。

2018年，美政府发布《开放政府数据法》（Open Government Data Act），要求联邦机构使用标准化数据格式对政府信息进行开发，并要求机构明确制定一名“首席数据官”，全面负责维护机构开放数据情况。

4.智能转型。随着人工智能技术不断成熟，美对人工智能应用与监管也逐渐铺开，推动政府逐步从“数据驱动”转向“智能驱动”。

2020年，美政府颁布《IT 现代化卓越中心计划法案》（IT Modernization Centers of Excellence Program Act），要求联邦机构进一步加强信息技术方面应用与合作，提出采用云计算、深化数据管理、加强人工智能应用等要求。

（三）体现了美政府正加强人工智能应用管理

在拜登政府推广首席人工智能官制度前，各联邦机构关于人工智能职责管理多从促进本部门应用角度出发，列入首席数据官职责之内，但拜登政府全面推广首席人工智能官制度后，其中最主要的变动体现在“监管”层面。

一方面，首席人工智能官有权利监管本领域、本行业内关于人工智能应用情况，每年需动态整理人工智能应用清单，并对清单中应用的风险进行阶段性评估；另一方面，首席人工智能官将根据白宫政策文件对本领域人工智能风险处置流程进行规范，将进一步梳理各机构内部数字化流程与人工智能风险，界定工作边界，维护政府机构应用人工智能的安全。

三、CAIO推广过程中存在的执行差异

首席人工智能官作为各机构牵总管理人工智能的部门，在目前已推行的机构中，首席人工智能官执行与行政令预期仍存在一些差异。

一是职位推广不及预期。自行政令签发以来，美政府各部门对该项行政令落实缓慢，多数任命是由原有数据官进行兼任，存在任命延期情况，并且存在部分机构领域尚无任命情况。对比首席人工智能官制度设计与首席数据官等机制，该职务安排未上升至法案形式，首席人工智能官制度推广以行政令方式推广，与首席数据官等法案相比力度稍弱。

二是职责落实存在难点。管理风险是首席人工智官职务设计的最核心职责，但从目前已设立首席人工智能官的机构来看，鲜有机构完整制定本领域人工智能应用风险与处置流程，未就风险处置形成闭环。此外，在已制定的机构中，多数就人工智能风险管理按照“清单式管理”，例如医疗卫生领域，美国卫生与公众服务部首席人工智能官对于人工智能风险监管出台解释文件，在关键医疗器械、诊断等环节仅列示出数据收集原则，从算法层面界定非歧视原则，但未就患者可信赖部分与风险处置原则进行详细规定。并且，行政令并未对管理机构监管权力边界进行规范。

三是制度设计存在缺位。首席人工智能官只能集中管理现有危害，而未就潜在风险进行深入研究。在已任命的机构首席人工智能官中，基本上都对新产生的生成式人工智能有更多地关注，但管理生成式人工智能系统尚未寻找到发展与监管的平衡点。究其根本在于，首席人工智能官职责依据是拜登政府已有人工智能政策——白宫科技政策办公室 2022 年 10 月发布的《人工智能权利法案蓝图》，其中人工智能问责部分尚未对当前爆发式增长的生成式人工智能进行更新。布鲁斯金学会在2023年11月就警告称“当前对生成式人工智能模型规模的阈值没有实质性界定，意味着未来技术发展存在潜在性损失风险”。美国进步中心（Center for American Progress）发布《生成式人工智能应在每个层面上负责任地开发和部署》，提出2023 年1月，美国商务部国家标准与技术研究所发布了“人工智能风险管理框架”（AI RMF 1.0），这是一个自愿框架，既没有区分开发人员和部署人员，也没有提供任何指导，说明双方如何负责减少第一方和第三方对人工智能的使用。

四、思考

当前，人工智能革命席卷全球，各主要经济体纷纷布局人工智能技术创新。与此同时，各国对人工智能治理与监管同步提上日程，如何平衡好人工智能监管与发展的关系，已成为摆在人类社会面前的一个“必答题”。美国率先提出设立首席人工智能官，其设立目标在于管理好人工智能应用风险，落实各机构对于自身领域人工智能监管与问责，避免人工智能过度发展。

不可否认，该制度确实建立了政府与人工智能间的管理关系，对于各领域摸清人工智能应用清单，开展风险评估奠定了制度基础。但是，面对爆发式增长的人工智能技术，首席人工智能官能否就本领域风险进行“兜底管理”？能否勒令部分超前应用“停止”？都存在一定疑虑与问题。

美国既是人工智能发展领先国家，则应肩负起更多人工智能监管责任，美国人工智能监管是否能更为深入并且以法案形式落实已成为智库核心关注的问题之一。美国战略与国际研究中心1月23日发布2024年全球AI政策预测，“美国2024年是否能推出人工智能监管法案”已列入2024年十大关注。

作者简介

白路 国务院发展研究中心国际技术经济研究所研究一室

研究方向：科技战略、科技安全

编辑丨郑实

研究所简介

国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。

地址：北京市海淀区小南庄20号楼A座

电话：010-82635522

微信：iite_er