推进生成式人工智能的助力分析

导读：尽管生成式人工智能的应用面临着关键技术风险和高层行政管理的质疑，但美国国防部在初期广泛交流接触中已经获得了一些直接的行业反馈，行业认为，基于几项关键的限定因素的约束，或可继续推动为作战前线开发生成式人工智能的行动极限。

根据行业反馈，有助于美国国防部利马工作组快速推进AIGC部署任务的约束条件，包括以下几种：

区分不同版本的生成人工智能。不是所有的生成式AI都是高风险的。生成式人工智能不仅仅意味着像ChatGPT这样容易产生“幻觉”的聊天机器人。它还包含一些工具，可以自动化文章摘要、合成情报报告或破译(如果图像是人工生成的)，从而节省分析师的时间并降低风险。与聊天机器人相比，这些二级模型带来的风险(相对于不准确性的发生率、错误信息的传播和偏见的存在)本质上要小得多，并且当实施额外的安全措施时，这种风险会继续降低。

因此，为了避免过度监管某些形式的生成式人工智能，并确保美军的战士、分析师和军官能够获得不可或缺的工具，应该区分不同版本的生成人工智能，以确保风险按比例降低。对高风险模型的担忧不应该减缓对低风险模型的采用。

尽快编纂行业最佳实践和成熟标准。为了加快这些低风险模型的采用，应尽快编纂行业最佳实践和成熟标准。一些科技公司已经在为专门的受控任务安全地部署生成式人工智能，并实施了保护措施，以确保他们的模型按预期执行。创建和实现这些临时标准可以推动负责任的部署，并随着技术的成熟为完善标准创造空间。

从人在回路开始。最直接的保障是在从开发到部署的模型中，在培训、测试和评估以及细化中，标准化人工干预。在训练阶段，人类可以确保数据集是变化的，并在数据标记不正确时进行干预。这种干预，连同测试和评估阶段的微调过程，对于确保模型在呈现新数据时按预期执行是至关重要的。

通过引用原始资料建立用户信任。为了增加对模型的信任，用户应该了解AIGC模型用来生成输出的原始来源，这需要人工智能将这些来源列为每个答案的标准部分。这使用户能够参考原始资料进行收集、验证，并在必要时提供其他信息。其本质是溯源。

与工业界合作，访问大量不同的数据源。随着海量源数量的增加，模型的准确性也会提高，这是必要条件。与之相反，如果模型无法访问各种数据源，模型的准确性就会降低，并可能增加不准确和偏差的风险。为了更进一步，模型应该是多模态的，或者能够处理文本之外的不同模态的源。

国防部正在寻求能够综合语言、视觉和信号信息的多模态生成式人工智能算法，来响应联合全域指挥控制(JADC2)概念中对联合作战的要求。

引入人类特定主题专家。对于部署人工智能的机构来说，除了证明值得信赖的生成式人工智能模型的积极记录非常重要之外，还必须能够接触到该主题知识领域的专家，即那些拥有特定领域实质性知识的真实人类。例如，一家专注于生成真实世界情报简报的公司，除了数据科学家和工程师团队之外，还应该雇佣一些前记者、地区和职能分析师和语言学家。利用专业知识，工程师可以在用户部署之前、期间和之后解决不准确的问题。

小 结

如果想要赢得数据革命和下一场战争，就需要追求所能获得的一切优势。为了时刻保持“今夜就战”的水平，美国国家安全必须依靠工业基础的优势，并与创新的速度相匹配。美国工业界亟待美国国防部尽快将安全措施和生成式人工智能标准落实到位，并在美国政府内部广泛共享，以加速推进AIGC在国防领域的部署。

2023年11月，美国防部“利马”工作组发布了生成式人工智能临时指南，为美国防部及各军事部门正在进行和即将采用的新兴和颠覆性生成式人工智能技术提供指导建议。其关键内容包括①风险评估与缓解：国防部敦促各部门采用稳健的治理流程，而不是完全禁止通用人工智能工具。这包括记录与特定的生成式用例相关的风险，确定和证明可接受的风险，以及降低不可接受的风险。②输入限制：应谨慎使用公开可用的生成式人工智能工具。禁止输入国家安全机密信息或受控制的非机密信息。所有数据、代码、文本或媒体在输入之前必须获得公开发布批准。③检验：所有国防部人员均应对在生成式人工智能协助下得出的结果和决策负责。建议用户验证和交叉检查此类工具的所有输出。④引用：为增强透明度，鼓励对使用生成式人工智能工具创建的文档进行适当标记。上述指导原则基本契合前期对风险和支撑举措的分析。(北京蓝德信息科技有限公司)