玉泉 砺道智库 2023-10-26 20:02 发表于吉林
美国国防部成立了一个新的工作组，研究使用生成式人工智能（例如大型语言模型）执行军事任务的可能性。
利马特遣部队于8月10日由国防部副部长凯瑟琳·希克斯(Kathleen Hicks)通过国防部首席数字和人工智能办公室成立，“将开发、评估、建议和监控生成式人工智能能力在国防部的实施情况，以确保国防部做好准备采纳并适当防止生成人工智能技术，”一份情况说明书指出。
美国国防部几十年来一直在研究和开发人工智能系统利马特遣部队指挥官曼努埃尔·卢戈在接受采访时表示，“正如ChatGPT和Bard等公开的大型语言模型中所见，生成式人工智能以非常快的速度向世界推出……它与传统人工智能有点不同。”他补充说，该工作组的成立是为了帮助集中国防部的生成式人工智能研究，并“指导整个部门正在进行的有关这项技术的所有单独调查”。
生成式人工智能的一个潜在缺点是“幻觉”，即大型语言模型本质上是在编造一些东西。该工作组正在要求业界通过程序、技术或系统概念来帮助该部门减少幻觉，并正在构建指南和工具，例如“可以插入工作流程和模型本身的测试和评估工具，为我们提供有关指标质量和……特定模型输出质量的输出，”他说。
利马特遣部队拥有400多名人员，租期为18个月，并有许多可交付成果。该工作组已经编写了临时指南，目前正在进行人员配置，为国防部提供有关如何使用这项技术的左右限制。
该工作组还在分析生成式人工智能用例，以便对它们进行分组，并找到该技术的实际应用领域，然后开始为那些特定的应用程序编写特定的框架和护栏。
一旦模型足够成熟可以使用，工作组将收集数据来评估模型的性能，并提出如何衡量该性能的框架，以便可以在全球范畴内应用于模型和工作流程。
其他工作包括调查模型如何呈现安全风险，以及如何确保整个技术中负责任的人工智能。
利马特别工作组有望在18个月的时间内完成所有可交付成果。该工作组章程的一部分是确定将部分工作移交给谁，并制定国防部在整个部门实施生成式人工智能的战略。该部门最终采纳生成式人工智能的一个关键因素是成本。
曼努埃尔·卢戈表示，“这项技术非常昂贵，而且有很多假设我们可以用它插入我们的系统中。如果我们想拥有自己的模型，就会需要大量的费用，并且需要大量的专业知识。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
