北京
随着中国开放权重AI模型的能力不断增强、受众持续扩大，围绕如何应对这些模型的争论再度升温。
有传言称，特朗普政府可能考虑对其实施禁令，但目前尚未付诸行动。与此同时，OpenAI、Anthropic等专有模型厂商对此表现出日益明显的忧虑。
Moonshot AI的Kimi K3、阿里巴巴的Qwen等开放权重模型，其推理成本仅为上述大型美国实验室闭源模型的一小部分。外界担忧这些模型可能构成某种威胁，它们对大型专有AI实验室的利润空间确实形成了冲击。
但对于那些在自有数据中心部署这些模型的企业来说，是否真的需要担心它们会成为中国黑客的攻击跳板？
对此，正在构建开源模型、为美国企业提供国产替代方案的Arcee公司首席技术官卢卡斯·阿特金斯给出了否定答案。
如果对中国模型的禁令真的落地，Arcee或许是最直接的受益者之一。但阿特金斯表示，中国的开源模型并不比企业日常使用的其他任何开源软件更危险，甚至在某些方面对他自己的公司也有所裨益。
"很多人把这看作类似于一个中国软件程序，认为它是带着某种特定意图被编写出来的，坏人只需一声令下就能激活。"他说道。
"但这从根本上就不是这些模型的训练方式。无论是Arcee还是阿里巴巴，都没有任何办法在别人自己的环境中运行一个模型时，还能对其保有任何访问权限。"他解释道。
尽管大多数此类模型属于"开放权重"而非真正意义上的完全开源软件，但其源代码（即实际在服务器上运行的部分）如果从Hugging Face等开源平台下载，同样基本上是可见且可审查的。（真正不对外公开的，是用于训练模型的方法和数据。）
大型组织在使用任何模型之前，都应将其核心部分纳入安全测试与检查流程。同时，企业通常还会针对自身特定用途对模型进行后续训练，并可对偏见、毒性、幻觉以及对特定话题的敏感性等方面进行评估。因此，在用户开始输入提示词之前，企业已经对模型完成了充分的了解、优化与掌握。
一个用于编码的模型，是否可能向其生成的代码中植入恶意后门？理论上存在这种可能性，但要实现这一点，需要克服重重技术障碍。
"没有理由认为一个足够复杂的攻击者不能训练出一个在各种情境下都表现出色的编程模型，但当它遇到某种特定类型的代码库时……某些隐藏的训练机制会被激活。"阿特金斯推测道。他同时补充说："但我不知道这具体要怎么实现。"
由于大语言模型本质上具有创造性，要让当前的模型在一套预谋好的特定上下文与提示词组合下生成恶意代码，概率极低。更何况，企业再将这些代码实际投入使用的可能性就更小了。
未来是否存在这种可能？目前还没有定论。不过，企业也在将AI应用构建为模型无关的架构，并同时使用多个模型。因此，即便中国模型在当下性价比最高，企业也不会永远锁定于使用它们。
"我认为，与其讨论如何禁止中国模型，不如思考如何在美国培育一个良好的开源生态系统。"阿特金斯说。
Arcee同样从中国模型中获益。由于这些模型是开放的，这家初创公司"受益于这些模型的优秀，因为我们可以从中学习，可以在其基础上构建，他们也可以从我们的工作中汲取经验"。他说："我们对那些构建这些模型的人，尤其是一线研究人员，怀有深深的敬意。"
归根结底，与中国模型竞争的方式"就是发布一个更好的模型"，阿特金斯说，"我们需要拿出真正有说服力的东西。"
Q&A
Q1：开放权重模型和完全开源模型有什么区别？
A：开放权重模型是指模型的权重参数对外公开，用户可以下载并在自己的环境中运行，源代码也基本可见可审查。但与完全开源不同的是，训练这些模型所使用的方法、数据集等核心信息并不对外公开。因此，"开放权重"并不等于"完全开源"，两者在透明度上存在差异。
Q2：企业部署中国AI模型时，应该如何降低潜在安全风险？
A：企业在使用任何模型前，都应将其纳入完整的安全测试与检查流程，评估偏见、毒性、幻觉及对敏感话题的响应方式。此外，企业通常会针对自身业务场景对模型进行后续训练与优化，并构建模型无关的AI应用架构，同时使用多个模型，从而避免对单一来源产生依赖，有效分散潜在风险。
Q3：Arcee公司为什么不支持禁止中国AI模型？
A：尽管禁令在商业层面对Arcee有利，但其CTO阿特金斯认为，中国的开源模型并不比其他开源软件更危险，且Arcee自身也能从这些模型中学习并受益。他主张，与其讨论禁令，不如专注于在美国培育健康的开源AI生态系统，通过发布更优质的模型来实现竞争。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
