北京
英伟达扩充Nemotron大语言模型家族，推出面向常驻AI智能体的可定制Nemotron 3.5 Super VL，以及面向本地系统的3.5 Bolt。
该公司表示，这三款新模型将覆盖从大型企业服务器到边缘设备、本地硬件的完整智能体部署场景。
Nemotron 3.5 Super VL是一个开放的1200亿参数模型，由英伟达与Nemotron联盟合作打造，后者是一批推进开放前沿级模型的模型构建者和AI实验室组成的团体，面向高精度多模态智能体任务。它具备指令遵循、工具调用、多步骤业务工作流和视觉理解能力。英伟达表示，它的能力可与该公司最大的推理模型相媲美，而体积只有后者的五分之一。
这一体积优势加上新架构，让Super VL的输出速度比其他同级别模型快近五倍。
开放权重意味着什么
与封闭的前沿模型不同，英伟达将Super VL的权重开放提供。这意味着企业可以用自己的数据对它进行后训练，并部署在自己的基础设施上。这样它们可以把它放在防火墙之后、留在自有域内，从而保持主权、隐私和安全。
为了构建Super VL，英伟达使用开放数据和开放方法训练该模型，预训练与持续预训练合计使用了约26万亿token。训练还包含380万条后训练样本，并在100个开放环境中进行强化学习以微调模型。
英伟达同时表示，将在Hugging Face上发布开放数据集，覆盖智能体工具使用、金融、指令遵循、长上下文、安全、公平性以及视觉语言理解等方向。
从工作站到可穿戴设备
Bolt 74B-A9B 24GB是一款更小的模型，基于Super VL构建，专为在本地运行智能体任务而设计。它采用混合专家模型架构，每次激活740亿参数中的90亿，并使用2比特量化，从而塞进24GB内存。这使它能够流畅运行在企业工作站或PC图形处理器上，用户可以委托日常项目——包括编写和调试代码——而无需把工作负载发送到云端。
本月晚些时候，英伟达还将推出更小的模型：Bolt E4B 4GB。这款微型模型面向GeForce RTX、Jetson和RTX/GTX Spark上的边缘部署，将让物理AI和对话式智能体在可穿戴设备、家用设备、服务终端、汽车仪表盘、设备助手及其他嵌入式界面中运行。
英伟达指出，它可以用来驱动交互式角色、对话界面，以及进行本地化或个性化的智能用户界面。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
