模力方舟 GiEngine：国产算力时代的 AI 推理引擎

来源：市场资讯

（来源：中国软件行业协会）

作为模力方舟自研的重要底座组件，GiEngine 聚焦于大模型的高性能推理与国产算力适配，助力企业与开发者在本地或云端环境中高效部署各类 AI 能力。

自研引擎助力国产 AI 应用落地

GiEngine（Gitee Inference Engine）是模力方舟在开源模型服务基础上自主研发的高性能推理引擎，具备以下核心优势：

• 灵活部署，开箱即用

支持快速私有化部署，标准 API 接口设计可无缝接入现有研发流程，适配常见 AI 科研与应用场景，一键搭建本地模型服务平台。

• 覆盖主流模型，全面兼容

兼容包括 Diffusion、多语言、多模态等在内的多类主流开源模型，涵盖文生图、问答、总结、翻译、Embedding 等多种应用任务，对接超 150 款模型资源。

• 支持主流国产算力

GiEngine 已适配包括沐曦、壁仞、天数智芯、华为昇腾等主流国产推理芯片，在众多设备上实现媲美 CUDA 的性能表现，显著降低部署成本。

即开即用的模型推理服务

基于 GiEngine 推理引擎，模力方舟推出了 Serverless API 服务，面向开发者开放调用与在线体验。

模力方舟 Serverless API 服务覆盖十三大类超 150 款业界顶级模型，无需部署，通过 API 即可快速调用，同时支持国产算力运行环境，降低开发门槛与算力成本。

推理之上，打造 AI 应用的落地闭环

以 GiEngine 的强大推理能力为基础，模力方舟在近期也上线了「AI 应用市场」，帮助开发者将模型快速打包为在线可用的实际应用。

AI 应用市场提供了模型接入、应用上架、页面展示、调用计费等一站式流程，搭配免费算力、流量扶持和零抽成机制，让开发者的好点子跑起来、用起来、赚起来。

构建可持续的国产 AI 生态

从模型推理到底座部署，从 API 服务到 AI 应用分发，模力方舟正在构建一个面向国产算力的 AI 技术闭环。

访问模力方舟，开启你的全流程国产 AI 开发之旅：https://moark.com

来源：模力方舟