手机也能跑大模型，腾讯混元推出多款小尺寸开源模型

8月 4 日，腾讯混元宣布开源四款小尺寸模型，参数分别为 0.5B、1.8B、4B、7B，消费级显卡即可运行，适用于笔记本电脑、手机、智能座舱、智能家居等低功耗场景，且支持垂直领域低成本微调。

这四款模型的推出，是腾讯混元大模型持续开源的一大举措，也进一步丰富了混元开源模型体系，可为开发者和企业提供更多尺寸的模型选择。目前，四个模型均在 Github 和 HuggingFace 等开源社区上线，Arm、高通、Intel、联发科技等多个消费级终端芯片平台也都宣布支持部署。

新开源的4 个模型属于融合推理模型，具备推理速度快、性价比高的特点，用户可根据使用场景灵活选择模型思考模式——快思考模式提供简洁、高效的输出；而慢思考涉及解决复杂问题，具备更全面的推理步骤。

效果上，四个模型均实现了跟业界同尺寸模型的对标，特别是在语言理解、数学、推理等领域有出色表现，在多个公开测试集上得分达到了领先水平。

这四个模型的亮点在于agent和长文能力，跟此前开源的Hunyuan-A13B模型一样，技术上通过精心的数据构建和强化学习奖励信号设计，提升了模型在任务规划、工具调用和复杂决策以及反思等agent能力上的表现，让模型实际应用中可以轻松胜任深度搜索、excel 操作、旅行攻略规划等任务。

此外，模型原生长上下文窗口达到了 256k，意味着模型可以一次性记住并处理相当于40万中文汉字或50万英文单词的超长内容，相当于一口气读完3本《哈利波特》小说 ，并且能记住所有人物关系、剧情细节，还能根据这些内容讨论后续故事发展。

部署上，四个模型均只需单卡即可部署，部分PC、手机、平板等设备可直接接入。并且，模型具有较强的开放性，主流推理框架（例如，SGLang，vLLM and TensorRT-LLM）和多种量化格式均能够支持。

应用层面，四款小尺寸模型都能够满足从端侧到云端、从通用到专业的多样化需求，并且已经在腾讯多个业务中应用，可用性和实用性经过了实践的检验，是真正实用的模型。

例如，依托模型原生的超长上下文能力，腾讯会议AI小助手、微信读书AI问书AI助手均实现对完整会议内容、整本书籍的一次性理解和处理。

在端侧应用上，腾讯手机管家利用小尺寸模型提升垃圾短信识别准确率，实现毫秒级拦截，隐私零上传；腾讯智能座舱助手通过双模型协作架构解决车载环境痛点，充分发挥模型低功耗、高效推理的特性。

在高并发场景中，搜狗输入法基于模型的多模态联合训练机制使嘈杂环境下提升识别准确率；腾讯地图采用多模型架构，利用意图分类和推理能力提升了用户交互体验；微信输入法「问AI」基于模型实现输入框与 AI 即问即答的无缝衔接。

在需求各异、约束严苛的垂直行业应用中，金融AI助手通过Prompt优化和少量数据微调实现95%+意图识别准确率，展现出金融级的高可靠性；游戏翻译和QQ飞车手游NPC充分利用模型的理解能力在多语言理解能力、方言翻译和智能对话方面有突出表现，这些能力在专业客服、内容出海甚至电商直播等场景有巨大应用潜力。

最近，全球开源领域异常热闹，中国大模型表现抢眼。腾讯混元大语言模型也在持续推进开源，参与技术社区的共建之中，其开源模型已覆盖文本、图像、视频和3D生成等多个模态。

在大语言模型领域，腾讯混元此前陆续开源了激活参数量达52B的Hunyuan large和首个混合推理MoE模型 Hunyuan-A13B ，这些模型凭借架构上的创新以及在性能和效果上的不错表现，在开源社区受到广泛关注。

多模态方面，混元还开放了完整多模态生成能力及工具集插件，陆续开源了业界领先的文生图、视频生成和 3D 生成能力，提供接近商业模型性能的开源基座，方便社区基于业务和使用场景定制，图像、视频衍生模型数量达到3000 个。上周，腾讯发布并开源混元3D世界模型1.0，这一模型一经发布即迅速登上Hugging Face趋势榜第二，下载量飙到近9k，混元3D世界模型技术报告还拿下了Hugging Face论文热榜第一。

开源是腾讯混元大模型长期坚持的方向，未来腾讯混元也将不断提升模型能力，继续积极拥抱开源，推出更多尺寸、更多模特的模型，加速产业落地和应用，与开发者和合作伙伴共建大模型开源生态。

官网体验地址：腾讯混元

Github:

Hunyuan-0.5B：GitHub - Tencent-Hunyuan/Hunyuan-0.5B

Hunyuan-1.8B：https://github.com/Tencent-Hunyuan/Hunyuan-1.8B

Hunyuan-4B：https://github.com/Tencent-Hunyuan/Hunyuan-4B

Hunyuan-7B：GitHub - Tencent-Hunyuan/Hunyuan-7B: Tencent Hunyuan 7B (short as Hunyuan-7B) is one of the large language dense models of Tencent Hunyuan

HuggingFace:

Hunyuan-0.5B：https://huggingface.co/tencent/Hunyuan-0.5B-Instruct

Hunyuan-1.8B：https://huggingface.co/tencent/Hunyuan-1.8B-Instruct

Hunyuan-4B：https://huggingface.co/tencent/Hunyuan-4B-Instruct

Hunyuan-7B：https://huggingface.co/tencent/Hunyuan-7B-Instruct