DeepSeek大模型一体机的落地“鸿沟”|深度

《科创板日报》3月21日讯（记者 黄心怡 毛明江）开年以来，开源大模型 DeepSeek 的爆火，如同一颗投入湖面的巨石，激起层层涟漪，直接引爆了大模型一体机产品的密集发布热潮。一时间，服务器厂商、云服务提供商、行业应用开发商以及大模型技术供应商等各路玩家纷纷入局，根据 IDC 统计，市场上已迅速有接近百家厂商推出 AI 一体机产品。但DeepSeek 一体机从最初的火爆 “出圈”，发展到真正在企业中能用、好用，还有相当长的路要走。

▍热潮涌动：需求量激增超200%！

《科创板日报》近期走访云从科技、云天励飞、优刻得、火山引擎等厂商时发现，DeepSeek 一体机的客户需求极为火热。“一体机现在需求非常大，医院、学校、政府、金融等行业都在找我们要。” 一位华为计算条线的业务人员透露。

云天励飞副总裁罗忆表示：“智能算力的硬件需求量确实较多。政府和央国企的需求量，相比前两年 ChatGPT 带来的客户密度翻了两倍不止。政府客户对于一体机较为认可的一点是，一体机部署不用做大量的前期准备工作，可以降低 AI 应用门槛，对于有良好数据治理基础的领域，比如政务、金融等，能够快速开发出不同应用。”

云从科技董秘杨桦也指出，客户需求量呈现出显著的增长趋势，尤其是一些对数据安全性和隐私保护有较高要求的企业，他们对本地化部署的一体机表现出浓厚的兴趣。“根据我们最近的业务线索和销售情况，金融、政务等领域的客户对 AI 一体机的需求尤为旺盛。比如我们和一个银行正在合作的项目，就是通过一体机去整合多源数据（金融三期平台、员工征信、合规系统等），构建风险数据集市与知识图谱，实现风险识别自动化和问责标准化。”

火山引擎相关负责人表示，火山引擎发布AI一体机后，已经收到大量企业客户的咨询和下单，客户需求超过预期。优刻得新兴产业事业部首席架构师李天朋介绍，一体机主要面向政府、央国企、医疗、金融、教育等数据安全要求较高和工业等对延时较为敏感的应用场景。

从售价来看，DeepSeek 一体机根据所承载的模型及搭载软件的不同，单次交付成本在几十万至百万左右。IDC 中国研究经理程荫认为，DeepSeek 带动了整个中国市场对AI应用的乐观发展预期，如果能驱动更多企业（尤其是中小等长尾企业）部署 AI，一体机市场将会迎来进一步发展。

然而，在这股热潮之下，也有业内人士表达了担忧。一名IT业内人士称：“需警惕现在市场有点过热。几乎所有的政府部门都在提需求，大家有点一窝蜂。客户还是要结合自己的实际情况。首先要清醒地认知，现在的大模型虽然说基模能力提升了，但最终距离深度和业务的结合中间还是有鸿沟，这取决于用户自身的数据治理和业务梳理能力。”

▍理想与现实：下单周期漫长

尽管DeepSeek一体机咨询需求火爆，但实际下单的周期较长。多名服务器厂商向《科创板日报》记者表示，关于DeepSeek一体机的咨询很多，但基本都处于调研阶段，而直接下单的客户大多是此前已定好相关预算，选择把原先定好的大模型订单换成了DeepSeek。

“客户处于测试阶段的比较多，直接下订单愿意买一台来试试的客户，通常是手里本来就有预算。这对于老牌大模型公司，其实冲击蛮大。原先可能计划采购闭源大模型，现在开源的DeepSeek一来，就把预算换成了部署开源模型。” 一名厂商人员表示。

李天朋指出，DeepSeek 一体机成单量比例相较于成熟云服务产品较低。“虽然客户的需求意愿非常强烈，但一体机产品一般需要在客户现场实际测试评估效果后才能够签单，目前因为资源较为紧缺的问题，上百家用户正在进行测试排期，导致暂时成单相较于云服务产品较低。”

“很多用户需要深度思考 DeepSeek 与自身业务场景之间的结合，在与一体机厂商咨询后，需要对自身的业务、采购成本、接入方式等进行多方面的评估，DeepSeek 本身接入的方式也非常多样，部分客户会转向API或者云上资源交付的方式。用户咨询时主要关注 DeepSeek 在自身应用场景中的落地情况，希望厂商结合经验给出建议，市场上一体机产品硬件配置高度同质化，性能差异不大，用户更关注场景应用、增值功能及后续服务。” 李天朋进一步解释道。

谈及一体机的落地，罗忆给出的建议是，“以云服务的方式，先通过模拟数据的方式做验证和测试。然后比较确定这个业务是可以闭环的，能够嵌入到业务流，然后再选择合适的计算架构，把智算融入到企业和政府的 IT 架构里。而一体机，则是在成本可接受情况之下的一种尝鲜。”

目前，满血版 DeepSeek 一体机采购成本在百万元以上，投入不小。但从业务真正落地的角度考虑，多数从业者都建议用户直接部署满血版。“32B的大模型用英伟达的4090芯片就能跑起来。采用32B和70B模型的客户，大多数用于测试和微调，真正业务要落地的还是采用满血版。” 一名服务器销售人员说。

罗忆也建议用满血版模型来进行业务探索。“并不是说这些小尺寸的模型没有用，但当探索一个新业务的时候，肯定要用最强的模型把整个业务跑通闭环，之后再考虑在不同的业务环节用低成本的模型来填补。”

▍落地之困：大模型与业务场景的鸿沟

大模型距离业务落地仍然存在着较大的鸿沟。罗忆认为，“政府和企业的相关技术人才储备严重不足，这一方面需要知识普及，另一方面大模型与业务的结合是逐步发生的过程，需要业务流的梳理，甚至业务流的编排，依赖业务专家深度参与。”

优刻得的李天朋也指出，人才是一大挑战，企业采购私有化大模型一体机后，软硬件运维和系统二次开发需要专业人才支撑，企业在人才积累和技术沉淀方面面临长期挑战。在业务场景方面，一体机不仅是硬件生意，未来随着大模型应用成熟，它将成为客户侧的核心组件，需要完善软件生态体系，如解决大模型的安全、权限管理以及与业务结合的适配优化等问题。

火山引擎相关人士表示，技术复杂性、成本、数据质量、系统集成、人才短缺、安全性、业务适配、运维和 ROI 等都是存在的挑战。“比如 AI 一体机涉及硬件、软件和AI模型的集成，技术门槛较高，也需要定期更新升级（比如支持 DeepSeek 后续的升级版模型），需要厂商能提供完善的维保服务。遇到AI大模型在实际业务场景中的性能不如预期的情况下，不仅需要企业自身配备专业的算法工程师，也需要AI一体机厂商在软件层面能提供模型压缩、量化和蒸馏工具，帮助优化模型性能；提供自动化调优工具，帮助企业快速找到最优参数；提供专业的AI咨询服务，帮助企业解决性能瓶颈。”

云从科技董秘杨桦总结，大模型一体机落地仍有两座大山需攻坚：一是场景深水区。客户要的并非 “万能模型”，而是 “扎进业务毛细血管” 的解决方案，比如某些工业质检的识别精度必须达 99.9%，这需要行业 Know-How 与AI的深度咬合；二是生态碎片化。目前的多重一体机硬件组合，特别是国产化这块，硬件标准不统一、软硬适配成本高，企业买一体机像 “拼乐高”，后期运维头大。

▍未来趋势：公有云和私有化部署将双轨并行

当前，市场上已迅速有接近百家厂商推出AI一体机产品。面对激烈的市场竞争，优刻得新兴产业事业部首席架构师李天朋认为，不同厂商有不同优势，硬件厂商在硬件建设成本、硬件适配优化和国产化适配方面有优势；云服务和算力服务厂商在端到端交付、前期客户对接测试、模型管理和算力调度及后续大模型与用户业务的深度结合等大模型全链路服务方面更具优势，能为客户提供更好的使用体验。

云从科技董秘杨桦表示，从趋势判断上看，随着Deepseek的出现，成本降低，大模型能力和解决问题的能力得到提升，开源将会带来更多生态出现。考虑到国产安全性及国产化的需求，私有化部署需求将得到全面满足，央国企和政府治理的全面数字化转型会加快，需求释放，加快落地。此外，企业数字员工、企业Agent的需求将迎来爆发式增长。这种转变对于专注行业垂直领域，既懂AI又有业务认知的科技商业化公司带来了巨大的机会和成长空间。”

杨桦预计，在公有云领域，推理成本预计每年以十倍幅度下降，这使得中小企业和消费级应用正加速采用公有云服务。从市场占比来看，公有云主要聚焦于标准化服务，在互联网、教育、泛零售等领域占比可能较高。而私有化部署方面，政企、金融、制造、能源等高敏感行业仍以一体机为主导，以政企、医疗、工业等垂直领域为核心。技术普惠层面，开源模型和低成本芯片，将进一步加速了大模型应用的渗透。

“未来三年，大模型在公有云和私有化部署领域的市场趋势将呈现双轨并行、协同发展的格局。公有云部署将继续保持快速增长，尤其是在互联网、电商等对弹性能力和快速迭代需求较高的行业。私有云部署将保持快速增长，在政企、金融、医疗等对数据隐私和安全性要求高的行业快速普及。”火山引擎相关负责人称。

DeepSeek所采用的混合专家系统 MOE，降低了每次需要激活的大模型参数量，导致推理成本大大降低，也对于国产芯片带来了利好。

“DeepSeek对国产智能算力的芯片和厂商，是一个巨大的机会。当然其形式不仅限于一体机。未来必然是混合计算架构，而且应用场景边缘化的趋势很明显的，因为考虑到私有数据安全、低延时等问题。除了政府和大型企业，未来的智算边缘化落地一定是会向中小企业，甚至家庭个人方向延展。”罗忆称，“我们芯片采用算力积木架构，虽然受制程影响，但是可以通过创新的架构，让芯片能够像搭积木一样灵活组建、自由扩展。”

杨桦表示，传统大模型（如GPT-4）部署成本高，DeepSeek等开源模型将训练成本降至十分之一，推理成本预计未来下降数十倍。DeepSeek一体机支持单机实时推理，边际成本低，适合中小政务单位灵活应用。“后续随着我们协同华为、海光、寒武纪等生态伙伴产生规模效应，有助于进一步降低硬件与部署成本。”

需要指出的是，国产算力仍有非常长的路要走。“目前的成本依然有些高，存在巨大的可优化和提升的空间。做好国产算力和先进模型的适配，提升性价比，这需要一个过程。”罗忆坦言。

李天朋也表示，算力适配优化，尤其是国产算力方面，目前国产GPU与英伟达GPU相比，在适配效果和性能输出上还有提升空间，GPU生态体系也需进一步优化。”