确保公共部门人工智能安全：安全和负责任采用的关键优先事项

人工智能（AI）正迅速融入公共部门的运营中。在2024年，美国联邦机构就报告了1700多个人工智能用例，是前一年的两倍多。其中一半集中在管理敏感国家任务的部门，如医疗保健、退伍军人服务和国土安全，因此在政府中保护人工智能系统的需求既紧迫又复杂。然而AI应用的成功依赖于端到端的方法来应对风险，保持合规性，并构建既可解释又有弹性的系统。

优先考虑信任和责任

在公共部门保护人工智能的基本挑战之一是应对不断变化的监管和治理格局。即使在没有任何全面的人工智能立法的情况下，现有的数据保护法和特定行业的规则已经告知了必须如何管理人工智能。各机构必须确保其人工智能系统符合负责任和道德使用的标准，包括与隐私、透明度、偏见和监督有关的标准。

监管机构不区分人为错误或算法错误；对影响的判断是一样的，不合规的潜在成本，尤其是在规模上，可能是巨大的。在此背景下，透明度和可解释性至关重要。特别是在高风险场景中，人工智能模型的行为和建议可能会产生生死攸关的影响；因此，准确理解这些模型如何以及为什么做出决策至关重要。

因此，负责任的人工智能治理必须植根于一个多学科框架，该框架在整个人工智能生命周期中纳入了道德标准、法律合规性、人类监督和可持续性。系统的设计必须使用工具和流程，使开发人员、操作员和监督机构能够跟踪决策并识别模型行为。自动化输出背后的逻辑必须清晰且可审查；否则，公共部门的IT团队发现，在发生故障时，几乎不可能审计人工智能驱动的决策、评估公平性或追究系统的责任。

在整个AI生命周期中保护数据

数据是所有人工智能模型的基础，其在存储、传输和使用的每个阶段的安全性至关重要。这对公共机构来说尤其重要，因为它们经常处理从公民记录到国家情报等高度敏感的数据。保护这些数据需要分层防御，以应对传统的网络安全威胁和人工智能特有的新兴风险。

在存储级别，必须保护数据集免受未经授权的访问和篡改。当数据传输时，无论是通过地面网络还是卫星通信，都必须使用现代的、最好是量子级的标准进行加密。一旦数据被使用，建立安全的计算环境可以帮助防止内存级攻击，内存级攻击通过完全在进程或系统的运行内存中操作来绕过传统的安全措施。在人工智能时代，所有这些保护层变得更加重要，因为人工智能系统往往比传统计算机程序在组织中的数据集之间建立更多的连接。

虽然人工智能正在推动更复杂的威胁，例如使用深度伪造和其他合成内容的社会工程攻击，但好消息是，人工智能还可以为行为分析和异常检测等更先进的保护提供动力，这些保护在应对此类风险方面发挥作用。与此同时，基本的网络卫生实践，如强有力的访问控制、多因素身份验证和定期审计，对公共部门的网络安全仍然至关重要。

通过智能规划确保运营效率

除了透明度和网络保护之外，保护公共部门的人工智能还涉及保持基本的运营完整性和效率，这意味着管理成本。开发和运行复杂的人工智能模型所需的资源包括能源密集型计算、大型数据集和专业人才。这些先进的要求可能会使紧张的政府预算捉襟见肘，但明智的规划可以帮助管理成本。

例如，机构之间用于欺诈检测或其他共同挑战的互操作平台可以防止重复，并促进更有效地利用资源来解决困扰政府许多领域的共同问题。另一种方法是使用检索增强生成（RAG）、数据压缩算法和其他先进技术，在保持人工智能平台高精度的同时使用较小的模型。这可以减少对大型、资源密集型系统的依赖，并支持与预算和政策限制相一致的更精确、特定于任务的应用程序。

在基础设施层面，机构应考虑云平台，通过提供可扩展的计算和存储、增强的安全功能和简化的管理，为昂贵的本地系统提供替代方案。智能劳动力规划是安全且具有成本效益的公共部门人工智能的补充。这包括自动化重复性任务，使员工能够承担更具战略性的责任，并通过有针对性的培训计划建立内部专业知识，以减少对外部顾问的依赖，更好地管理内部项目。

随着公共部门人工智能在规模和影响力上的持续增长，今天做出的选择将在未来几年塑造这些系统的安全性、信任度和有效性。各机构必须了解人工智能如何与其独特的业务环境和风险相交，并且必须积极协调各团队，以确保与战略目标和安全要求保持一致。最终，在这些环境中保护人工智能需要一种主动的端到端方法，在整个人工智能生命周期中嵌入安全性、隐私性、公平性和效率。

与 Ai 时代前沿合作，将大门向更多普通用户敞开！无论你是对新技术充满好奇心的爱好者，还是希望提升自己技能的职场人士，这里都有适合你的课程和资源。