美国国土安全部《2024年人工智能路线图》

2024年3月18日，美国国土安全部（DHS）发布《2024年人工智能路线图》，该文件概述了美国国土安全部的人工智能计划以及该技术在美国国土安全事业中的潜力。美国总统拜登发布第14110号行政命令，授予国土安全部开发和兼管人工智能的重要职责，为履行职责，美国国土安全部2024年的工作计划包括探索新的人工智能应用，推行全政府战略，确保安全、可靠、可信地开发和使用人工智能。元战略编译该路线图重要内容，为分析美国国土安全部2024年人工智能部署提供借鉴。

一、利用人工智能推进美国国土安全部

的任务

美国国土安全部使用人工智能已达十多年，并不断提高人工智能在整个部门应用的广度、深度和成熟度。美国国土安全部的各个部门和办公室都在努力切实评估人工智能对国土安全部任务的潜在益处，并负责任地利用其潜力来进一步转变其业务。美国国土国安部已在《人工智能用例清单》中公布了41种不同的人工智能用途，随着其不断扩大人工智能的使用范围，这份清单还将不断增加，例如：

（1）美国国土安全部正在利用人工智能将芬太尼和其他危险毒品拒之门外。

（2）美国国土安全部正在利用人工智能协助执法人员调查犯罪事件。

（3）美国国土安全部正在美国联邦紧急事务管理署（FEMA）使用人工智能来更有效地评估灾后房屋、建筑和其他财产的损坏情况。

（4）美国国土安全部正在利用人工智能让旅行更安全、更便捷。

二、人工智能对美国国土安全

的挑战

虽然人工智能在加强美国国土安全部的任务方面存在巨大的机遇，但人工智能也带来了新的挑战和风险。人工智能工具的普及很可能会加强对手国家的战术。网络行为者利用人工智能开发新的工具，使他们能够访问和入侵更多的受害者，并以更快的速度发动更大规模、高效且难以发现的网络攻击，试图破坏民众对政府机构的信任，降低社会凝聚力。尤其值得关注的是人工智能攻击对关键基础设施的影响，它可能导致恶意行为者破坏或拒绝与物联网技术或联网工业系统相关的活动，人工智能技术还可被用来破坏民众对数字信息的信任。虽然人工智能已经推动了物理和生物科学的创新，但它也有可能大大降低非专业人员设计、合成、获取或使用化学、生物、放射性或核武器的准入门槛。

三、负责任地使用人工智能

为确保负责任地使用人工智能，美国国土安全部与其他部门密切协调和高度协作，共同监管人工智能。美国国土安全部各部门和办公室与隐私办公室、公民权利和公民自由办公室、总法律顾问办公室以及其他利益相关者密切协调。这些合作可确保遵守所有适用法律和政策，并建立明确的防护栏，禁止不当使用人工智能，同时保障隐私、公民权利和公民自由。2023年，美国国土安全部宣布了促进负责任地使用人工智能的新政策和措施，以指导整个部门获取和使用人工智能技术。美国国土安全部应用了人工智能权利法案蓝图的原则，并将在内部实施美国国家标准与技术研究所制定的《人工智能风险管理框架》。

四、政府范围内的协调方法

美国总统拜登的第14110号行政命令确立了人工智能创新的全面战略，指示美国国土安全部与其他联邦机构合作，推动政府范围内的协调方法。具体来说，美国国土安全部将与国家标准与技术研究院、司法部和国防部等其他部门风险管理机构合作，以支持特定部门的人工智能风险识别，就如何标注和认证内容向各机构发布指导意见，对人工智能基础模型和其他措施进行安全审查，并为人工智能安全和安保制定指导方针、标准和最佳实践。美国国土安全部将继续管理关键基础设施和网络空间中的人工智能，推动采用全球人工智能安全标准，降低人工智能被用于制造大规模杀伤性武器和其他相关威胁的风险，打击与人工智能相关的知识产权盗窃，并帮助美国吸引和留住技术人才。

五、美国国土安全部的工作职责

美国国土安全部部长制定部门的人工智能战略、优先事项和政策，并且是与私营部门、联邦机构间、州政府官员和主要国际对口部门的主要对话者。在部长办公室，部长已指定网络安全和新兴技术高级顾问担任人工智能安全和安保委员会的执行主任，并就部署人工智能和其他先进技术向部长提供建议，以履行部门的使命，并支持该部和整个美国政府的相关决策。

首席信息官负责与美国国土安全部各办公室和部门合作，制定美国国土安全部使用人工智能的内部政策。

科学技术局（S&T）代表美国国防部领导与人工智能相关的研发工作，为联邦、州和地方官员提供保护国土的尖端技术和能力。

隐私办公室（PRIV）和公民权利与公民自由办公室（CRCL）负责监督和指导人工智能的负责任使用，以确保国土安全部对人工智能的使用是透明的、可解释的、可信的，避免不适当的偏见，并保障隐私、公民权利和公民自由。

反大规模毁灭性武器（CWMD）办公室致力于防止使用大规模毁灭性武器和其他相关的化学、生物、辐射和核（CBRN）威胁，并领导该部的工作，以确定和减少人工智能和CBRN威胁交叉的风险。

美国网络安全和基础设施安全局（CISA）开展网络防御工作，以防范人工智能带来的威胁，确保基于人工智能的软件系统的安全，并推动相关风险的降低和恢复。

情报和分析办公室开展并提供分析，研究人工智能如何影响对关键基础设施和国土安全任务的威胁，包括与网络安全、外国恶意影响和反恐有关的威胁。

私营部门办公室隶属于伙伴关系和参与办公室，负责促进与企业、行业协会和其他组织的战略沟通，以加强与该部的关系。

美国国土安全部人工智能工作组包括国土安全部各部门的代表，由负责科技的副部长和首席信息官担任主席。该工作组成立于2023年4月，旨在推动人工智能的具体应用，以推进关键的国土安全任务。

六、美国国土安全部在人工智能方面

的外部参与小组

以下列出了一些由美国国土安全部召集的小组，这些小组汇集了不同的利益相关者，以解决与人工智能有关的问题：

（1）人工智能安全和安保委员会是由部长根据美国总统指示，根据第14110号行政命令设立的，旨在汇集来自私营部门、民间社会、学术界和政府的人工智能专家。该委员会的目的是就人工智能的开发和部署向部长、关键基础设施界和广大公众提供建议；为提高安全性、复原力和安全性提供信息和建议，包括颁布使用人工智能的具体和可操作的原则、指导方针和最佳做法；制定有效的流程，以审查和应对与在关键基础设施中使用人工智能有关的事件。

（2）国土安全咨询委员会利用其成员的经验、专业知识以及与全美、全球的联系，为美国国土安全部部长提供实时、真实和独立的建议，以支持整个国土安全行动的决策。

（3）国土安全部网络安全领域现有的机构在使用人工智能的过程中出现网络安全问题将被调用，其中最主要的是联合网络防御协作组织，该组织汇集了来自全球各组织的网络防御人员，以收集、分析和共享可操作的网络风险信息，从而实现同步、整体的网络安全规划、网络防御和响应。如果发生由人工智能或人工智能系统引发的重大网络事件，网络安全审查委员会将对事件进行审查，并提出具体建议，以限制未来发生此类事件的可能性或影响。

七、美国国土安全部的工作重点

（一）合理利用人工智能推进国土安全任务，同时保护个人隐私、公民权利和公民自由

1.在美国国土安全部的任务空间持续负责任地试点和实施人工智能技术

美国国土安全部将利用人工智能来支持维持和保障政府运作所需的基本功能，包括大语言模型在内的生成型人工智能工具可以成为减少业务流程所耗费精力的组成部分。这种务实的方法旨在利用人工智能简化行政任务，提高政府日常运作的效率和成本效益。战略性地应用人工智能，可以提高生产率并改善客户体验，从而成为一种变革性工具。

2.建立技术基础设施，加快整个美国国土安全部对人工智能的安全采用

扶持有效的人工智能基础设施是美国国土安全部人工智能生态系统成功运行的关键。这涉及以下各方面的战略考虑：数据和工具管理，存储、计算能力和网络基础设施，多式联运业务，持续集成、交付和监控，支持治理和管理过程中有效协作的程序，以及实施隐私增强技术。

3.为人工智能系统制定严格的开发、测试和评估规范

作为测试与评估（T&E）需求的一部分，美国国土安全部为确保人工智能应用的有效性和稳健性，将开展各项活动。这些活动包括基准测试，以及人工智能模型的更新和再培训，以便能够整合新的数据和见解。如果在算法生命周期的适当位置进行测试和验证，人工智能应用就能保持准确、敏捷和快速响应。为支持这些努力，美国国土安全部将与安全研究人员团体合作，对美国国土安全部信息技术系统的潜在薄弱环节进行检查。

4.通过健全的治理和监督政策与实践，确保美国国土安全部安全、可靠、可信地使用人工智能

除其他承诺外，美国国土安全部不会收集、使用或传播用于人工智能活动的数据。美国国土安全部也不会建立基于种族、民族、性别、宗教、性取向、性别认同、年龄、医疗状况或残疾等不适当的因素做出或支持决策的人工智能系统。此外，美国国土安全部将仅以符合《美国宪法》和所有其他适用法律和政策的方式获取和使用人工智能，特别是那些保护隐私、公民权利和公民自由的法律和政策。除了承诺避免不当的貌相、目标定位或歧视外，该政策还要求建立一个适合部门人工智能活动的人工智能风险管理框架。

5.通过面向所有员工的人工智能扫盲，吸引、留住和培养人工智能专家的计划，支持团队和持续的合作伙伴关系，培养一支为人工智能做好准备的员工队伍

美国国土安全部将把资源用于吸引、招聘、培养和留住具有技术技能的人才，以推动人工智能能力的监督和整合。美国国土安全部将鼓励跨学科合作，组建包括人工智能专家和其他主题专家在内的跨职能团队，以提高解决问题的能力，确保人工智能有效、负责任地融入业务和监督流程。美国国安部还将优先考虑对员工进行持续培训，以扩展与人工智能相关的技能组合。美国国土安全部还计划将更多的技术人员纳入领导和决策角色，以实现必要的发展和保留目标，并培养一种有效整合数据、分析和人工智能能力的创新文化。

（二）促进全国范围内的人工智能安全保障

1.保护人工智能系统免受网络安全威胁，防范人工智能网络攻击

美国国土安全部将利用人工智能的潜力改进网络防御。美国国土安全部内部将进行操作测试，以评估联邦政府系统的人工智能漏洞发现和修复技术。此外，网络安全和基础设施安全局已经在积极利用机器学习工具进行威胁检测和预防，将继续与政府和私营部门专家合作，评估和打击恶意行为者利用人工智能攻击政府和关键基础设施系统的行为。

2.打击利用人工智能生成威胁国土安全的儿童性虐待材料、化学、生物、辐射和核威胁的威胁信息和其他材料的行为

为降低风险，美国国土安全部将与美国白宫科技政策办公室和其他相关美国政府机构合作，评估人工智能降低大规模杀伤性武器和化学、生物、辐射或核威胁开发准入门槛的潜力。此外，美国国土安全部还为审计人工智能系统是否被滥用的第三方建立一种共同期望的文化，并防止恶意行为者滥用和扩散的风险。

3.协助人工智能开发者打击与人工智能相关的知识产权盗窃，协助开发者和版权持有者降低与人工智能相关的知识产权风险，协助机构对官方数字内容进行标注和认证

为应对知识产权被盗这一挑战，国土安全部将通过国家知识产权协调中心制定一项计划，通过利用国土安全调查局、执法部门和行业合作伙伴关系，帮助人工智能开发人员降低与人工智能相关的知识产权风险。

4.通过提供安全使用人工智能的指导方针，降低人工智能对关键基础设施的风险和威胁

美国国土安全部将与政府内外的利益相关者合作，制定供关键基础设施所有者和运营商使用的安全指南。各部门正在评估与关键基础设施部门使用人工智能有关的潜在风险，包括部署人工智能可能导致故障、物理攻击和网络攻击的方式。美国国土安全部将采取全球统一的方法，与国际伙伴合作制定这些指导方针。

5.成立人工智能安全和安保委员会，作为权威的公私合作伙伴关系，使人工智能能够安全可靠地用于为美国人提供关键服务

在美国总统的指示下，国务卿将成立人工智能安全保障委员会（AISSB）并担任主席，以支持负责任地开发和部署人工智能。AISSB将汇集来自人工智能技术行业、关键基础设施所有者和运营商、联邦、州和地方政府、学术界和研究组织以及非营利组织的杰出行业专家。

6.简化签证流程，为美国招募更多人工智能人才

美国国土安全部将简化那些希望前往美国从事人工智能或其他关键和新兴技术的工作、学习或研究的非公民的申请处理时间。美国国土安全部还将明确此类专家的移民途径，并使之现代化，美国国土安全部已根据行政命令的指示推进政策。

（三）通过强大、有凝聚力的合作伙伴关系，继续引领人工智能领域的发展

1.与私营部门、学术界、内陆发展中国家政府、国际合作伙伴、非政府组织和思想领袖建立牢固的关系，以推动实现这些目标

美国国土安全部将通过行业合作与协调，继续推进其工作，并通过已经建立的渠道进行内外双边接触。通过私营部门办公室，美国国土安全部将在成功举办并得到广泛参与的利益相关者会议的基础上，共享资源和解决问题。美国科技部将参与美国人工智能安全研究所联盟和联合网络防御协作组织的工作，围绕影响人工智能系统的威胁、漏洞和缓解措施开展重点合作。

2.通过公共信息和参与宣传国土安全部在人工智能方面的努力

美国国土安全部致力于提高该部对人工智能愿景的透明度和可见度，并确保负责任地使用人工智能，据此，美国国土安全部将继续公开分享有关其自身活动和使用情况的信息，这些信息将以服务对象可获取的方式呈现。美国国土安全部将在其面向公众的网站（dhs.gov/ai）和社交媒体渠道上分享产品。此外，美国国安部部长还将通过与媒体和不同受众（从关键基础设施所有者和运营商到技术高管再到民间社会）的接触，宣传部门在人工智能方面所做的努力。

3.通过与监督实体和国会接触，围绕国土安全部对人工智能的使用创造透明度并建立信任

美国国土安全部领导层将继续与国会以及外部和内部监督实体接触，提供部门使用人工智能的最新情况。美国国土安全部将与联邦民权办公室和独立监管机构合作，全面利用各自的权力和办公室，防止和解决自动系统使用中的歧视问题，包括算法歧视。除采取其他行动外，美国国土安全部还将加入《关于打击自动化系统中的歧视和偏见的执法努力的机构间联合声明》，申明美国国土安全部负责任地使用人工智能，并承诺确保联邦政府开展和协助的活动符合适用的民权法律和政策。

4.与社区、倡导者和合作伙伴合作，展示负责任地使用人工智能的方式

隐私办公室、民权和公民自由办公室以及伙伴关系和参与办公室将促进美国国土安全部与社区、倡导者和合作伙伴的外联活动，以听取隐私、民权和公民自由专家以及可能受美国国土安全部使用人工智能影响的社区的反馈意见。这种参与将为支持美国国土安全部任务的人工智能开发提供信息，特别是帮助建立对隐私、个人权利和基本公平的保护。

免责声明：本文转自元战略，原作者美国国土安全部。文章内容系原作者个人观点，本公众号编译/转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！

转自丨元战略

作者丨美国国土安全部

研究所简介

国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。

地址：北京市海淀区小南庄20号楼A座

电话：010-82635522

微信：iite_er