网易首页 > 网易号 > 正文 申请入驻

担任腾讯首席AI科学家后,姚顺雨带领团队揭晓首个研究成果

0
分享至

姚顺雨担任腾讯首席AI科学家后首个研究成果揭晓。2月3日,腾讯混元官网技术博客发表了一篇题为《从上下文中学习,远比我们想象的要难》的文章,系统地介绍了腾讯混元团队联合复旦大学的一项新研究。该文章中还提到,未来竞争的焦点将从“谁能把模型训练得更好”,转向“谁能为任务提供最丰富、最相关的上下文”。据悉,这是姚顺雨加入腾讯担任首席AI科学家后团队首次发布研究成果。

去年12月17日,腾讯升级大模型研发架构,新成立AI Infra部、AI Data部、数据计算平台部,全面强化其大模型的研发体系与核心能力。OpenAI著名研究者姚顺雨出任“CEO/总裁办公室”首席AI科学家,向腾讯总裁刘炽平汇报;同时兼任AI Infra部、大语言模型部负责人,向技术工程事业群总裁卢山汇报。近日,姚顺雨在现场给腾讯首届“青云奖学金”获得者颁奖。

姚顺雨

过去几年,大语言模型快速进化,如今的前沿模型,已经是顶级的“做题家”:它们能解开奥数级别的难题,能推演复杂的编程逻辑,甚至能通过那些人类需要苦读数年才能拿下的专业资格考试。

但截至目前,在面临真实世界的任务时,模型表现还有待提升。在人类日常工作中,玩家拿起新游戏的规则书,就能在实战中边玩边学;科学家从复杂的实验日志中筛选数据,就能推导出新的结论和定律。这些场景中,人类并不只依赖多年前学到的知识,而是在实时地从眼前的上下文中学习。

在这篇论文里,腾讯混元和复旦大学联合研究团队提到,要让大模型学会“从上下文中学习”,远比我们想象的要难。并且,即便抹平了上下文带来的信息差,模型也未必能解决问题,这说明模型在上下文利用上,依然存在显著的能力短板。

为了衡量现有模型距离真正的“上下文学习者”还有多远,研究团队构建了 CL-bench,这是一个专门评测语言模型能否从上下文中学习新知识并正确应用的基准。CL-bench 包含由资深领域专家精心制作的500个复杂上下文、1899个任务和31607个验证标准。CL-bench只包含一个简单但苛刻的要求:解决每个任务要求模型必须从上下文中学习到模型预训练中不存在的新知识,并正确应用。

通过实验,论文发现,世界上排名前十的语言模型在CL-bench上的任务解决率平均只有17.2% ,也就是说即使是如今最强的语言模型,在上下文的利用方面仍然做得不好,甚至可以说是还不会利用上下文,从上下文中学习。

这也为大语言模型后续的迭代指出了一个可能的方向,即强化模型从上下文中进行学习的能力。官方技术博客还提到,如果模型的上下文学习能力能像之前其他能力那样被提升上去,人类在AI 系统中的角色将发生转变:我们不再是主要的数据提供者,而变成了上下文提供者。未来,竞争的焦点将从“谁能把模型训练得更好”,转向“谁能为任务提供最丰富、最相关的上下文”。

研究团队也强调,模型如何记忆很可能成为 2026 年大模型发展的另一个核心主题,并且,一旦上下文学习与记忆变得可靠,模型或许就能实现自主学习,它们将自主准备上下文,从中学习并自我巩固。

采写:南都N视频记者 林文琪

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
正式加盟,林书豪,开工了!……

正式加盟,林书豪,开工了!……

体育新角度
2026-11-16 16:27:11
重庆扩容已箭在弦上!两地激烈比拼,谁能率先撤县设区?

重庆扩容已箭在弦上!两地激烈比拼,谁能率先撤县设区?

水泥土的搞笑
2026-11-16 14:51:37
热搜霸榜三天了!日本希望安排“中日会谈”,被中方拒绝

热搜霸榜三天了!日本希望安排“中日会谈”,被中方拒绝

这里是东京
2026-11-15 17:18:08
打起来了,5年来最大规模!乌克兰不宣而战,出动1200架无人机

打起来了,5年来最大规模!乌克兰不宣而战,出动1200架无人机

巷北楠猫本尊
2026-11-16 15:15:06
ICE加州逮捕亚裔人数一年暴增10倍!“华人第一站”丁胖子广场不再热闹,南加华人区究竟藏着多少无证移民?

ICE加州逮捕亚裔人数一年暴增10倍!“华人第一站”丁胖子广场不再热闹,南加华人区究竟藏着多少无证移民?

纽约时间
2026-11-16 05:01:56
房价大局已定?大家注意了,不出意外,房价可能迎来大行情?网友兴奋道:坐等房子再翻番,退休生活全靠它了

房价大局已定?大家注意了,不出意外,房价可能迎来大行情?网友兴奋道:坐等房子再翻番,退休生活全靠它了

专业聊房君
2026-11-15 16:44:42
《谷雨》七大美女各有风情:李小冉气场足,王鸥港风美人,张雪迎我见犹怜

《谷雨》七大美女各有风情:李小冉气场足,王鸥港风美人,张雪迎我见犹怜

露珠聊影视
2026-11-14 21:14:32
关起门来的聚众淫乱,是怎么案发的?

关起门来的聚众淫乱,是怎么案发的?

北京郑律师
2026-11-14 16:02:15
家里兔子怀孕,一口气生了27只!!妹子天塌了:别再生了我害怕

家里兔子怀孕,一口气生了27只!!妹子天塌了:别再生了我害怕

铲屎官阿伟
2026-11-10 18:40:10
钻石姐索要体检报告!

钻石姐索要体检报告!

八卦疯叔
2026-11-11 10:28:18
黑龙江省17-19日东部中到大雪、局地暴雪

黑龙江省17-19日东部中到大雪、局地暴雪

环球网资讯
2026-11-16 14:07:05
新中国成立后,我国至今未破的大案、要案有哪些?

新中国成立后,我国至今未破的大案、要案有哪些?

文史达观
2026-11-13 09:21:34
火箭147-119大胜奇才 球员评价:4人满分,6人及格,2人低迷

火箭147-119大胜奇才 球员评价:4人满分,6人及格,2人低迷

篮球资讯达人
2026-11-16 10:43:21
“这颜值,放艺术生里也是顶级了!”家长晒素颜大一女儿哭鼻子,院校揭晓网友都慕了

“这颜值,放艺术生里也是顶级了!”家长晒素颜大一女儿哭鼻子,院校揭晓网友都慕了

妍妍教育日记
2026-09-14 20:51:56
今日重要赛事!11月16日,央视CCTV5、CCTV5+节目表

今日重要赛事!11月16日,央视CCTV5、CCTV5+节目表

薇说体育
2026-11-16 10:49:49
“蛋白吃得多,病就生得少”,4种高蛋白食物,男女老少都该常吃

“蛋白吃得多,病就生得少”,4种高蛋白食物,男女老少都该常吃

花小厨
2026-11-16 10:05:10
睡眠藏着肺癌信号?夜里 5 种反常表现,尽早查肺

睡眠藏着肺癌信号?夜里 5 种反常表现,尽早查肺

猫大夫医学科普
2026-11-16 06:48:23
6天5个涨停板!股民:妖王不讲武德!

6天5个涨停板!股民:妖王不讲武德!

数据挖掘分析
2026-11-16 15:18:33
最容易和异性发生关系的女人,大多有这两个特征,很准

最容易和异性发生关系的女人,大多有这两个特征,很准

皓皓情感说
2026-11-16 07:52:58
“已经确定女儿考不上高中了”,家长在线求助,网友:存个18w给她吧

“已经确定女儿考不上高中了”,家长在线求助,网友:存个18w给她吧

熙熙说教
2026-11-05 14:45:22
2026-11-16 17:20:49
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
643853文章数 3591407关注度
往期回顾 全部

科技要闻

历史头一回!马斯克用"筷子"夹住太空飞船

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

体育要闻

NBA开赛最大惊喜,是他们?

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

时尚
教育
健康
艺术
亲子

“小棕裙”今年冬天爆火,这样穿时髦又松弛!

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

情绪真能让健康人"伤心至死"?

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

亲子要闻

宝宝气人但是聪明的4个行为

无障碍浏览 进入关怀版