网易首页 > 网易号 > 正文 申请入驻

阶跃星辰李璟:多模态是AGI的必经之路,视觉模型可按语言模型路线实现大一统

0
分享至

5月17日,由搜狐主办的2025搜狐科技年度论坛在北京盛大开幕。多位院士、科学家与产业界人士齐聚一堂,激发智慧的深度碰撞,奔赴科技的星辰大海。

本届论坛线上线下结合,开启全天的思想盛宴。在上午的线上直播中,阶跃星辰副总裁李璟发表主题演讲《迎接视觉领域的GPT-4时刻》,分享了大模型技术和应用层面的思考。

他表示,今年以来大模型厂商密集的模型发布,意味着追求智能的上限仍然是当下最重要的事情。“我们始终认为多模态对AGI的实现非常重要,是实现AGI的必经之路。”

对大模型的下一步发展,李璟表示,阶跃星辰主要会在两个方向发力。一是在预训练的基础上加上强化学习,提高模型的推理能力。“强化学习还在早期,还会延续一长段时间。”

第二个趋势是多模的理解生成一体化。李璟认为,文本领域已经实现生成理解任务的统一,语言模型的技术路线也已收敛,视觉模型完全可以按照类似路线往前走。

“第一步就是做海量的图片视频的预训练,实现predict next frame(预测下一帧),这样生成出来的视频会比Sora的效果要好很多;再加上指令遵循,视觉任务就完成了大一统。”

在AI应用方面,阶跃星辰看好Agent前景。“追求AGI是我们的初心,我们会坚持基础大模型的研发。”李璟表示,阶跃星辰会坚持进行多模态的探索布局,最终形成从模型到Agent、从云侧到端侧的生态体系。

以下是演讲全文:

各位朋友大家好,我是阶跃星辰李璟,非常荣幸能够有机会参加2025搜狐科技年度论坛,代表阶跃分享我们最近在大模型技术研发,还有应用方面的一些思考与实践。

从2月份以来,国外头部的几家基础大模型厂商你追我赶,密集发布了一系列模型。我们可以清楚地感受到一个趋势,那就是追求智能的上限仍然是当下最重要的事情,也可以看出出主流的技术脉络和共性规律。

从宏观上说,模型的发展是沿着一条智能演进的路线在往前进化。两年前,阶跃成立之初为通往AGI规划的技术路线图,包括了三个阶段:模拟世界、探索世界和归纳世界。

今天我们到底在什么样的位置?结合这波密集的发布,眼下的发展呈现出两个趋势,第一个是从模仿学习到强化学习,第二个是从多模态融合走向多模态理解生成一体化。

在阶跃提出的路线图里面,模拟世界的主要范式是模仿学习,就是把互联网上的所有的数据都喂给大模型,通过预测下一个token这样的任务来学习海量数据中的结构和特征。

当学会表征世界之后,下一步就要培养机器解决问题的能力。对复杂问题的求解,人脑需要系统2的能力,就是慢思考的能力。这也是最近的推理模型,如OpenAI的o1、o3 以及DeepSeek-R1背后所采取到的技术。

智能的下一个境界,我们认为是机器通过自主学习,主动发现人类尚未发现的物理规律。这就有点像苹果砸在了牛顿的头上,发现了万有引力的定律一样。这样AI可以在生物、核能、材料、量子等各个领域和科学家一起完成创新,我们把这个阶段称为归纳世界。

去年OpenAI流传出的AGI的五个level分别Chatbot、Reasoner、Agent、Innovator和 Organization。这五个level和阶跃提的三阶段的想法基本一致,只是表述有所不同。OpenAI的系列代表模型,基本覆盖了这个路线图的各个关键节点。

同时,随着模型能力的不断增强,模型应用也从早期的Chatbot聊天机器人,到构建智能体Agent来完成复杂的任务,并且进一步从数字世界跨到物理世界,比如和智能终端和设备的结合。应用也是跟着模型能力走的,有什么样的模型决定了什么样的应用可以成熟和繁荣。

阶跃的发展也基本绕围绕着这样的路线图进行,过去两年已经建成了 Step系列的通用大模型矩阵。我们的基础模型可以分成语言模型和多模态模型,多模态又涵盖图像、视频、声音各个模态,每个模态按功能可以细分为理解模型和生成模型。

所以阶跃形成了综合全面、多模领先的基础大模型矩阵,我们始终认为多模态对AGI的实现非常重要,是实现AGI的必经之路。

首先,AGI对标的是人类智能。人的智能是多元化的,不仅来自于语言的符号智能,还包括视觉智能、空间智能、运动智能等,这些智能必须通过视觉和其他模态进行学习,任何方面出现短板都有可能延缓AGI的进程。从应用角度来看,无论是垂直领域的应用,还是C端应用,多模态往往也必不可少。

阶跃模型下一步的发展,有两个明显趋势。第一个趋势就是在预训练的基础上加上强化学习,激发模型在推理的时候产生长思维链,从而极大提高模型的推理能力。推理模型已经从一个趋势变成一个确定性的范式,阶跃预计会在未来两三个月发布满血版的推理模型Step-R1。

我们认为强化学习还在早期,还会延续一长段时间,比如推理效率的提高、奖励函数的进一步泛化、合成数据进行预训练等等,都是需要解决的热点问题,阶跃也会在这方面持续投入。

除了语言模型之外,阶跃还率先把推理能力引到了多模态领域,确切的说是视觉理解领域。引入推理能力和长思维链能力之后,视觉模型就可以更加精准的理解物理世界,很多应用都需要这样的能力。

除了推理模型之外,第二个趋势是多模的理解生成一体化,更准确地说是视觉领域的生成理解一体化。什么叫生成理解一体化?就是理解和生成用一个模型来完成。

文本领域已经做到了理解生成一体化,但在视觉领域理解需要理解模型,生成用的是生成模型。为什么一定要做生成理解一体化?因为需要理解模型来预测内容,生成需要理解来控制。

从另一个角度说,理解需要生成来监督。就像费曼说,What can I not create I do not understand。如果可以生成的话,那就说明真的理解了。

ChatGPT模型之所以产生了跨时代的理解能力,就是因为它用predict next token这样生成的任务来做监督信号,而在视觉领域并没有出现这样的predict next frame模式。到今天为止,视觉领域也并没有出现大规模的预训练来刻画物理世界的规律。

为了进一步说明理解生成一体化的这个重要性,可以先看语言模型的技术路线发展,它经历了三个重大的技术节点。首先是20117年推出了Transformer,意义是在于scalable的文本理解生成一体化模型。2020年GPT -3被训练出来了,它用互联网海量的文本数据做了预训练,从此进入到了大语言模型时代。

2022年的InstructGPT,也就是GPT -3.5,解决了指令跟随的问题,从此NLP的任务实现了大一统,一个模型搞定了所有NLP的任务。再往后就是24年底推出了推理模型,可以用长思维链思考处理复杂问题。

下一步是什么?可能是自主学习。所以,语言模型的技术路线已经收敛,视觉模型完全可以按照这个样板一步步往前走。但视觉模型在第一步就被卡住了,现在只能理解生成各自发展。

要做好视觉的理解生成一体化,第一步要做做海量的图片视频的预训练,也就是说可以 predict next frame,这样生成出来的视频会比Sora的效果要好很多。再加上指令遵循,那么视觉任务就完成了大一统,一个模型搞定所有视觉任务。

接下来做时空推理,这就会使得自动驾驶和机器人这样的应用能够上一个大台阶。前自动驾驶和机器人问题都是泛化性不足,没见过的东西就不会做,但人如果没有经历的话,人会脑补或者演绎,或者去尝试各种action的各种结果,最后选择一个更好的。这个就需要理解生成一体化,最后加上3D 模型,加上自主学习的进化能力,我认为就是世界模型了,到了这一天也就是AGI来临了,所以多模态是AGI的必经之路。

最近在理解生成一体化上,GPT-4o的最新版是一个很重大的突破,阶跃这方面更先进的技术会在未来几个月发布。

在应用方面,眼下最热的应用概念就是Agent。很多人也会认为2025年会是Agent 的元年,为什么Agent会在眼下变得火热?我想这跟 Agent的爆发需要的两个必要条件有关,一个是多模态的能力,一个是慢思考的能力,这两个能力在2024年都取得突破性的进展。

基于自主研发的强大模型矩阵,我们跟合作伙伴一起打造了垂类的Agent以及智能终端的Agent。比如我们跟OPPO合作打造了手机Agent,跟吉利合作展示了最新的智能座舱。此外,还和具身机器人公司合作,这块目前还比较早期,需要大家非常深入密切的合作。

最后,表达三句话,第一,追求AGI是我们的初心,我们不会改变,会坚持基础大模型的研发。第二,在整个竞争格局里面,阶跃差异化的特点就是多模态能力,不仅能力在行业里面领先,也始终走在探索的前沿方向,这里面机会巨大。

在应用层面,阶跃也是差异化的道路,就是携手合作伙伴发力智能终端的Agent,最终形成从模型到Agent,从云侧到端侧的生态体系。我们认为软硬结合才能更好地理解用户的需求,完成用户的任务。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美军再对伊朗发动打击,当面一套背面一套的特朗普,已毫无信用可言

美军再对伊朗发动打击,当面一套背面一套的特朗普,已毫无信用可言

News脑洞
2026-07-08 16:56:06
顶着美国压力,携光刻机、芯片巨头,荷兰外贸大臣此时访华有何意味?

顶着美国压力,携光刻机、芯片巨头,荷兰外贸大臣此时访华有何意味?

上观新闻
2026-07-08 19:37:47
和杨钰莹断联后,靠接商演、给富婆唱歌谋生,如今57岁单身无儿女

和杨钰莹断联后,靠接商演、给富婆唱歌谋生,如今57岁单身无儿女

以茶带书
2026-06-23 14:24:05
广电终于干掉了机顶盒,但现在没多少人看电视了。。。

广电终于干掉了机顶盒,但现在没多少人看电视了。。。

差评XPIN
2026-07-09 02:51:38
六预警齐发,中央气象台:今晚到明晚,广西、广东、黑龙江、辽宁、河北、山东、江苏、云南等地部分地区有大到暴雨,局地有雷暴大风或冰雹

六预警齐发,中央气象台:今晚到明晚,广西、广东、黑龙江、辽宁、河北、山东、江苏、云南等地部分地区有大到暴雨,局地有雷暴大风或冰雹

扬子晚报
2026-07-08 18:31:40
俄总统新闻秘书:俄“体量太大,责任太重”,不可能发动第三次世界大战

俄总统新闻秘书:俄“体量太大,责任太重”,不可能发动第三次世界大战

红星新闻
2026-07-08 16:30:25
一场0-2完败,让中国男足认清差距!丢掉榜首,世界杯出线难度反转

一场0-2完败,让中国男足认清差距!丢掉榜首,世界杯出线难度反转

侃球熊弟
2026-07-08 22:06:24
巴洛贡事件继续发酵,队报:多名欧议员准备联名调查该事件

巴洛贡事件继续发酵,队报:多名欧议员准备联名调查该事件

懂球帝
2026-07-08 21:13:37
战犯国贼,宋美龄

战犯国贼,宋美龄

温伯陵的烟火人间
2026-07-08 21:02:33
欧派内部信称员工没价值就下船:为保大船不覆、为保多数人生存,只能忍痛请部分人下船,公司近两年累计减员6100人

欧派内部信称员工没价值就下船:为保大船不覆、为保多数人生存,只能忍痛请部分人下船,公司近两年累计减员6100人

大风新闻
2026-07-08 21:14:07
VAR机构认定阿根廷埃及争议判罚均正确,但判罚尺度不一受质疑

VAR机构认定阿根廷埃及争议判罚均正确,但判罚尺度不一受质疑

红星新闻
2026-07-08 14:21:31
马斯克有句话点醒过我“如果今天我破产了,绝对不会去找工作,而是去做一件能快速产生现金流,并且可以复制放大的事。”

马斯克有句话点醒过我“如果今天我破产了,绝对不会去找工作,而是去做一件能快速产生现金流,并且可以复制放大的事。”

LULU生活家
2026-07-07 20:59:47
没意外,世界杯抽签前就规定,西阿英法头名出线则四强前不相遇

没意外,世界杯抽签前就规定,西阿英法头名出线则四强前不相遇

懂球帝
2026-07-08 08:48:13
“墙这么破,就别搞仪式感了!”农村小公主火了,让人不是滋味

“墙这么破,就别搞仪式感了!”农村小公主火了,让人不是滋味

世界圈
2026-07-07 09:19:17
日元跌到40年来最低点!日本真的走到绝境,很可能进行军事冒险!

日元跌到40年来最低点!日本真的走到绝境,很可能进行军事冒险!

牛锅巴小钒
2026-07-08 17:27:23
广西水灾明星捐款,名单流出不到1天,荒唐一幕出现,韩红被围攻

广西水灾明星捐款,名单流出不到1天,荒唐一幕出现,韩红被围攻

牛锅巴小钒
2026-07-08 20:11:06
日媒:三笘薰在日本开车闯红灯撞倒一名女性,后者需两周康复

日媒:三笘薰在日本开车闯红灯撞倒一名女性,后者需两周康复

懂球帝
2026-07-08 20:09:15
从泄洪到溃口,广西横州洪灾实录:一个小时水涨了4米左右,养蛇场被冲毒蛇四散逃逸

从泄洪到溃口,广西横州洪灾实录:一个小时水涨了4米左右,养蛇场被冲毒蛇四散逃逸

网易新闻出品
2026-07-07 23:12:46
被大佬当“玩物”,孕期注射药物百次,最美 “三圣母”落魄至此

被大佬当“玩物”,孕期注射药物百次,最美 “三圣母”落魄至此

文刀贰
2026-07-02 23:19:57
美国一37层高楼突发严重变形!或将坍塌成煎饼一样 周边紧急疏散,以领馆被迫撤离

美国一37层高楼突发严重变形!或将坍塌成煎饼一样 周边紧急疏散,以领馆被迫撤离

红星新闻
2026-07-08 16:01:01
2026-07-09 07:56:50
搜狐科技 incentive-icons
搜狐科技
搜狐科技官方账号
4910文章数 9194关注度
往期回顾 全部

科技要闻

字节杀回来了!深度实测Seedream 5.0 Pro

头条要闻

媒体:特朗普点名批评"反华专家"章家敦 释放明确信号

头条要闻

媒体:特朗普点名批评"反华专家"章家敦 释放明确信号

体育要闻

阿根廷绝境重生,离不开这个罗!

娱乐要闻

鹿晗出轨?邓超出轨绯闻又被扒出

财经要闻

新能源车"外挂电池"乱象:暗藏致命风险

汽车要闻

MB.EA纯电架构/售价33.98万 全新奔驰纯电GLC鎏金版上市

态度原创

教育
游戏
家居
公开课
军事航空

教育要闻

A的周长为12,D的周长为60,求阴影部分面积

为热爱翻山越海,跨越3000公里去“玩”王者荣耀

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗:美军袭击造成8名伊朗军人死亡

无障碍浏览 进入关怀版