上海
分享至
7月31日，阶跃星辰宣布新一代基础大模型Step 3正式开源，已上线阶跃星辰开放平台。据介绍，Step 3的多模态能力围绕“轻量视觉路径”与“稳定协同训练”展开，重点解决视觉引入带来的token负担与训练干扰问题。为此，其采用5B Vision Encoder，并通过双层2D卷积对视觉特征进行降采样，将视觉token数量减少到原来的1/16，减轻上下文长度压力，提升推理效率。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
