深圳商报·读创客户端首席记者 陈小慧
9月15日,记者从小鹏集团获悉,小鹏第二代VLA大模型迎来首次重大升级,模型开始真正“理解时间”。15日,小鹏通用智能中心负责人刘先明撰写长文,系统回顾了第二代VLA升级背后的技术路径,也进一步阐明了小鹏为什么要从“真实物理世界的客观约束”出发,重新思考模型架构。
蒸馏不只是把模型缩小 需靠底层架构升级
对于第二代VLA蒸馏版,刘先明表示:“我们不希望蒸馏只是把模型缩小、砍半甚至剪枝,以适配更低算力的芯片;同时,也希望尽可能保留第二代VLA原始的能力和风格。让更强的基座模型惠及更多车型,需要靠底层架构升级和技术突破,而不是简单粗暴地‘一刀切’。”
刘先明认为,物理AI要解决的问题,是理解一个持续变化的世界,并在其中行动。对智能汽车来说,这意味着模型既要看懂眼前的道路,也要记住刚刚发生了什么,判断接下来可能发生什么,再及时做出行动。第二代VLA的这次升级,围绕这一核心目标展开:把时间纳入模型,在有限车端算力下扩大能力边界,再通过架构优化与蒸馏,让这些能力进入更多车型。
据了解,小鹏选择从学生模型架构、教师模型、基础能力和训练数据等多个环节重新设计能力迁移,在算力受限的情况下,尽可能保留第二代VLA的能力和风格,让更强的基座模型真正惠及更多车型。针对双Orin平台的蒸馏,由于涉及跨平台、跨模型架构的能力迁移,技术挑战更大,需要进一步深入到底层架构乃至算子层面进行优化。目前,这一方向已经取得突破性进展。
从第二代VLA蒸馏版实测来看,这套技术思路也在真实体验中得到了印证:模型基础能力、场景理解、空间理解、驾驶效率,以及红绿灯预起步等细节表现,都给体验者带来了超预期的感受。
业内人士认为,更强的基座模型能力,并不只属于高算力车型,也可以通过技术重构真正下沉到更多用户的日常驾驶中。小鹏集团相关负责人表示,后续蒸馏版VLA Lite也将随着基座模型的能力升级而持续优化:基座模型越强,蒸馏后的能力就越强,持续向L2能力的更高上限迈进。
如何蒸馏?实现有效的算力和能力平衡
对于如何把第二代VLA蒸馏版部署到算力更有限的平台上,刘先明认为有几个关键的技术问题需要解决:
首先,蒸馏的关键在于学生模型能否承接教师模型的能力,以及这些能力能否在目标芯片上高效运行。小鹏的做法从学生模型的架构开始。围绕Max车型的计算瓶颈,重新分配模型中的计算资源。针对计算量最重的ViT部分进行了彻底重构,以HybridViT、TuringViT等视觉架构工作为基础,使用“学习式压缩”来降低有效计算量,结合编译器与部署优化,提高硬件利用效率,尽可能保留模型“大脑”容量,从而实现有效的算力—能力的平衡。
“这样,学生模型在接受蒸馏之前,就具备更高的能力起点。”刘先明还表示,蒸馏还依赖两个关键条件。一个是足够强的教师模型,它提供更丰富的学习信号;另一个是合适的数据分布,它决定学生模型在哪些问题上学习、能否覆盖目标使用场景。“依托数据基础设施,我们组织高质量、分布合理的训练样本,把教师能力、学生容量与训练重点结合起来。”
刘先明表示,Max蒸馏由四项工作共同支撑:针对芯片重做架构、持续增强教师模型、提高学生模型的基础能力,以及优化训练数据的质量与分布。
其中,Ultra和Max有不同的能力侧重。Ultra以向L4能力演进为长期研发目标,持续拓展场景覆盖、长尾问题处理和跨区域泛化能力。Max聚焦通勤与日常使用,在数据选择和训练中,把有限资源优先投入这些高频场景。
小鹏物理AI技术路径:建立可复用底层能力支撑更多产品
模型升级背后,是小鹏一套让数据进入训练、让模型得到验证、再将能力部署到产品中的基础设施。
这套体系也在向汽车之外延伸。“我们同时探索了同一套模型控制汽车与机器人,并且成功将这一套物理AI的底层体系迁移到小鹏集团的机器人身上,实现了底层的高度复用。”刘先明表示,不同本体有不同的动作空间和约束,但都需要完成“交互、理解、决策、执行”,也都依赖数据、模型、仿真与部署能力。已有能力能否迁移、哪些环节需要适配,可以在这套基础设施中持续验证。
“这就是我们建设物理AI公司的技术路径:从智能汽车出发,建立可复用、可验证、可持续迭代的底层能力,再让它支撑更多产品。我们持续投入的,是让模型面对新的场景与任务时,仍能学习、验证和改进的能力。我们也期待将来让这套底层物理AI体系能在小鹏的全系列产品线上为用户提供更加可靠、安全、实用的体验。”刘先明说。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.