山东
IT之家 8 月 6 日消息，小红书 hi lab 研发并开源的首个多模态大模型 dots.vlm1 今日正式发布，借助一个从零训练的 12 亿参数视觉编码器以及基于 Deepseek V3 LLM 构建。
小红书 hi lab 表示，dots.vlm1 在大部分多模态评测集上接近闭源 SoTA 模型的水平，并在文本能力和主流文本模型相当。
- NaViT 视觉编码器：没有基于成熟视觉编码器进行微调，完全从零开始训练，原生支持动态分辨率。同时在文本监督上增加纯视觉监督，提升感知能力上限。此外，训练数据上在传统的 Image Caption 数据上还引入大量结构化图片进行原生训练，提升 VLM 模型的感知能力（例如各类 OCR 能力）。
- 多模态训练数据：在传统思路上，额外引入多种合成数据思路，覆盖多样的图片类型（例如表格 / Chart / 文档 / Graphics 等）及其描述（例如 Alt Text / Dense Caption / Grounding 等）；同时，利用多模态大模型来重写图文交错网页数据，显著提升训练数据质量；
- 通过大规模预训练与精细化后训练调优，dots.vlm1 在视觉感知与推理方面达到了接近 SOTA 的表现，为开源视觉语言模型树立了新的性能上限，同时在纯文本任务中仍保持一定竞争力。
在主要的视觉评测集上，dots.vlm1 的整体表现已接近当前领先模型 Gemini 2.5 Pro 与 Seed-VL1.5 thinking，尤其在 MMMU / MathVision / OCR Reasoning 等多个基准测试中取得了相当竞争力的结果，显示出较强的图文理解与推理能力。
在典型的文本推理任务（如 AIME、GPQA、LiveCodeBench）上，dots.vlm1 的表现大致相当于 DeepSeek-R1-0528，在数学和代码能力上已具备一定的通用性，但在 GPQA 等更多样的推理任务上仍存在差距。
总体来看，dots.vlm1 在视觉多模态能力方面已接近 SOTA 水平，在文本推理方面达到了主流模型的性能。然而，在部分细分任务上仍与最优结果存在一定距离，需要在架构设计与训练数据上进一步优化。
复杂图表推理样例：
STEM 解题样例：
长尾识别解题样例：
视觉推理样例：
IT之家附 dots.vlm1 开源地址：
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
