企业通过watsonx.ai 采用DeepSeek R1 蒸馏模型，可增强安全、治理和规模化部署能力

作者： IBM watsonx.ai 产品主管Maryam Ashoori; IBM AI平台（watsonx.ai 和 watsonx.governance）产品管理副总裁Armand Ruiz; IBM watsonx.ai 产品经理Nisarg Patel

北京2025年2月11日/美通社/ --IBM日前宣布，DeepSeek-R1 的 Llama 3.18B和 Llama 3.370b蒸馏版本现已在 IBM 的企业级 AI 开发平台watsonx.ai上提供

IBM在watsonx.ai 上提供DeepSeek R1 蒸馏模型，增强企业规模化AI应用及其安全与治理能力

DeepSeek-R1到底是啥？

DeepSeek-R1是中国人工智能（AI）初创公司 DeepSeek 的推理大语言模型（LLM），是世界上最强大的开源模型之一，甚至可以与 OpenAI 的 o1 相媲美。DeepSeek-R1 在MIT许可证下发布，主要是通过在基础模型 DeepSeek-V3 上直接使用强化学习 （RL） 开发的，这是微调LLM 的一项重大创新。

DeepSeek还使用了一种称为知识蒸馏的技术，使用较大的 R1 模型生成的数据来微调多个 Llama 和 Qwen 模型。用户可以通过两种方式在 watsonx.ai 上访问 DeepSeek 蒸馏模型：

• IBM 通过 "按需部署目录"在 watsonx.ai 中提供两种 Llama 蒸馏变体，允许用户部署专用实例进行安全推理。
• 用户还可以使用自定义基础模型导入功能导入 DeepSeek-R1 模型的其他变体，如 Qwen 蒸馏模型。

DeepSeek-R1支持哪些类型的用例？

DeepSeek-R1是一种先进的 AI 模型，以其卓越的推理能力而著称，支持各行各业的广泛应用：

• ：DeepSeek-R1 专注于思维逻辑链，能够执行需要逐步推理的任务，因此非常适合为智能体（代理）应用程序提供支持。
• 编码：DeepSeek-R1擅长编码任务，提供代码生成、调试辅助和优化建议。
• 数学问题解决：该模型强大的推理能力使其善于解决复杂的数学问题，这对学术研究、工程和科学计算大有裨益。

开发人员可在IBM watsonx.ai 中使用 DeepSeek-R1 等已部署的模型和解决方案功能构建人工智能解决方案：

• 以易于理解的格式和用户界面测试和评估模型输出
• 通过连接各种向量数据库和嵌入模型来构建RAG 管道
• 与 LangChain、CrewAI 等流行框架和连接器协同工作

为何要在watsonx.ai上使用DeepSeek蒸馏模型？

IBM watsonx.ai使客户能够定制实施DeepSeek-R1 等开源模型，从部署环境的完全灵活性到智能体（代理）开发、微调、RAG、提示工程和与企业应用程序集成的直观工作流，用户可以利用watsonx.ai的内置护栏来保护他们的应用程序

当然，数据安全和AI治理是客户最关心的问题。除防护栏外，在watsonx.ai 上部署时，这些模型将成为专用实例，这意味着除平台外，不会在其他任何地方共享数据。此外，与IBM watsonx.governance这一功能强大的治理、风险和合规性（GRC）工具包的无缝集成，可确保客户的AI在整个AI生命周期内都是负责任、透明和可解释的。

开始在IBM watsonx.ai上使用DeepSeek

支持DeepSeek-R1 的蒸馏变体是IBM 致力于AI开源创新的一部分。DeepSeek Llama 的两个蒸馏模型都以纳入IBM watsonx.ai 上按需部署目录，能够在专用GPU 上按小时部署。

如何从watsonx资源中心按需部署R1模型

从资源中心按需部署基础模型，请完成以下步骤：

1. 从导航菜单打开资源中心。
2. 从 "按小时付费 "部分，找到要按需部署的 DeepSeek 模型。
3. 从模型详细信息页面，单击 "Deploy(部署)"
4. 从基础模型磁贴中单击 "Deploy(部署)"，然后选择要部署基础模型的部署空间。
5. 单击"Create(创建)"。
6. 通过 Prompt Lab 或 API/SDK 开始使用模型。

IBM watsonx.ai 在这里会用斜体显示模型的思维过程，而最终输出则用非斜体显示。正如你所见，只需一个简单的提示，模型就能推理并规划出响应中需要包含的各个部分。

如何通过 REST API在 watsonx上部署 R1模型

或者，您也可以使用 REST API 来部署模型

当然，您必须将bearer tokenspace-id等信息替换为相应的凭证。模型部署完成后，您可以从 Prompt Lab 或 watsonx.ai API 提示基础模型。

通过让用户访问watsonx.ai上同类最优的开源模型（包括第三方模型和IBM Granite），我们以期能够塑造协作和知识共享的文化。

即刻试用watsonx.ai™中的DeepSeek-R1精馏模型→了解更多