北京
分享至
DeepSeek 把自家在用的推理框架开源了。这套框架名为 DeepInfer，官方称其为“in-house inference framework”，即自研推理框架，目前已经完全开源。
它并非实验室里的演示项目。DeepSeek 表示，DeepInfer 正以高吞吐、低延迟支撑 DeepSeek-V4.1-Flash 的大规模服务，是实际生产环境里跑着的技术栈。
为什么要把生产栈拿出来？官方给出的理由很直接：帮助社区降低算力成本、减少能源消耗，让 AI 变得更可负担。换句话说，省下来的不只是钱，还有电。
代码托管在 GitHub 的 deepseek-ai 仓库下。对做推理部署的开发者来说，这是一份可以直接对照的生产级参考实现。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
