网易首页 > 网易号 > 正文 申请入驻

图灵奖得主、强化学习之父Sutton最新访谈:合成数据是巨大错误,大模型只完成了四分之一的智能

0
分享至


来源:DeepTech深科技

运营/排版:何晨龙

当前,大模型主要通过预训练和后训练获得能力,上线后参数通常不再更新,只能借助上下文、知识库或重新训练适应变化。如何让 AI 在部署后持续学习,正成为行业需要突破的基础问题。

8 月 18 日,红杉资本旗下播客《Training Data》发布了一期围绕 AI 持续学习的对谈,受访者为强化学习奠基人、2024 年图灵奖得主 Rich Sutton。此外,参与访谈的嘉宾还有 Sutton 的前学生、Oak Lab 联合创始人 Khurram Javed,对谈由红杉资本合伙人 Sonya Huang 和 Alfred Lin 主持。

访谈从 Sutton 2019 年发表的《苦涩的教训》谈起,延伸至合成数据、世界模型和持续学习,并讨论智能体如何从真实经验中形成抽象概念。Sutton 认为,部署后便停止改变的模型,还称不上完整的智能系统。大模型虽是重要突破,却主要解决了语言能力,只覆盖智能的一部分。

基于这一判断,Sutton 正将持续学习推进为一条完整的技术路线。就在上个月,,并提出以经验学习、时间抽象和规划为核心的 OaK 架构,希望智能体能从连续经历中实时学习,不断更新认知并改进决策。

“止步不前”的智能

在今天,大模型看起来无所不知,却有一个容易被忽略的特点:它们的大部分能力都在上线前形成,经过预训练和后训练后,模型参数便基本固定。此后即使每天接触大量用户和新信息,也不会像人一样把这些经历转化为新的长期能力。


图|访谈现场(来源:YouTube)

Sutton 认为,这种静态范式混淆了知识与学习的边界。尽管模型可以记住一段对话,也可以借助外部知识库回答最新问题,但这些都不等于真正的学习。





Oak Lab 要实现持续学习




图|Oak Lab首页(来源:公司官网)

这也正是 Oak Lab 的核心使命。这家成立于 2026 年 7 月的初创公司,目标是在五到十年内打造出万亿参数规模、运行功耗仅 20 瓦的持续学习心智模型。


参考资料:

1.https://www.youtube.com/watch?v=xH7U7w9Qzlo

2.https://oaklab.ai/mission

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
曾仕强:所有疾病的起因,都是因为紧张|只要全身不放松,疾病就会找上门

曾仕强:所有疾病的起因,都是因为紧张|只要全身不放松,疾病就会找上门

杏花烟雨江南的碧园
2026-07-24 16:15:03
七夕刚过,被高调示爱、靠在李维嘉肩上的王菲,不再顾及所谓体面

七夕刚过,被高调示爱、靠在李维嘉肩上的王菲,不再顾及所谓体面

胖子的勇气
2026-08-26 09:55:14
10年时间,万达账面从2000多亿缩到100来亿。很多人认为是因为对赌协议,可如果往回翻一翻,真正让王健林不是滋味的,是3笔不算大的投资

10年时间,万达账面从2000多亿缩到100来亿。很多人认为是因为对赌协议,可如果往回翻一翻,真正让王健林不是滋味的,是3笔不算大的投资

千年历史老号
2026-08-18 20:40:01
许家印女儿许熙芸:恒大崩塌名单之外,为何是唯一没被埋进去的人

许家印女儿许熙芸:恒大崩塌名单之外,为何是唯一没被埋进去的人

大鱼简科
2026-08-25 09:55:58
小红书女博主怒批《欢迎来龙餐馆》:通篇辱女脏话,观感炸裂不适

小红书女博主怒批《欢迎来龙餐馆》:通篇辱女脏话,观感炸裂不适

小徐讲八卦
2026-08-24 10:03:17
世体:巴萨认可小蜘蛛所做努力,已开会决定穷尽所有可能完成转会

世体:巴萨认可小蜘蛛所做努力,已开会决定穷尽所有可能完成转会

懂球帝
2026-08-26 09:28:06
许家印的奢靡往事:广东豪宅1.6万平,3架专机、只吃千元西瓜

许家印的奢靡往事:广东豪宅1.6万平,3架专机、只吃千元西瓜

王新喜
2026-08-21 07:34:29
低端家庭,个个是犟种。

低端家庭,个个是犟种。

老陆不老
2026-08-13 08:31:06
当“46-54元”消失:养老金年度不调整,真正受伤的是谁

当“46-54元”消失:养老金年度不调整,真正受伤的是谁

你在偷看谁
2026-08-25 20:56:12
真可怜啊!网友同情明星,不火了只能接廉价商演,一场仅仅5万元左右!评论区被气得不轻!

真可怜啊!网友同情明星,不火了只能接廉价商演,一场仅仅5万元左右!评论区被气得不轻!

谭谈社会
2026-08-25 14:40:14
老人黄金血糖已公布!不是 7.0,而是这个数,越接近越健康

老人黄金血糖已公布!不是 7.0,而是这个数,越接近越健康

垚垚分享健康
2026-08-26 09:15:26
35:16,马克龙将下台,接班人确定?对华态度成重点,欧盟很尴尬

35:16,马克龙将下台,接班人确定?对华态度成重点,欧盟很尴尬

鹤羽说个事
2026-08-26 00:57:44
伊朗封锁霍尔木兹海峡为何形同虚设?战术失败背后的三重失能

伊朗封锁霍尔木兹海峡为何形同虚设?战术失败背后的三重失能

民间胡扯老哥
2026-08-24 07:10:47
王楚然在九寨沟,跳成了风景

王楚然在九寨沟,跳成了风景

阿废冷眼观察所
2026-08-26 00:27:28
婚外胚胎案风云再起!检方介入迎来反转,精致算计终遇法治叩问

婚外胚胎案风云再起!检方介入迎来反转,精致算计终遇法治叩问

刘哥谈体育
2026-08-26 07:21:16
3个孩子2个非亲生:女儿成绩从满分降到不及格,生母在学校见到她扭头就走

3个孩子2个非亲生:女儿成绩从满分降到不及格,生母在学校见到她扭头就走

江山挥笔
2026-08-25 16:41:27
实力差太远了,伊朗封不死海峡,美国却可以封死伊朗

实力差太远了,伊朗封不死海峡,美国却可以封死伊朗

高博新视野
2026-08-25 18:59:45
“毁了眼睛,又吸了甲醛”,家长晒不玩手机替代方案,女儿老遭罪了

“毁了眼睛,又吸了甲醛”,家长晒不玩手机替代方案,女儿老遭罪了

熙熙说教
2026-08-21 14:11:56
判决书成了围猎女人的通行证!许家印风波再升级,多位女星有关系

判决书成了围猎女人的通行证!许家印风波再升级,多位女星有关系

老黯谈娱
2026-08-23 12:13:43
冯巩现状:全家住北京老破小,68岁满脸褶子,儿子已是公司高管

冯巩现状:全家住北京老破小,68岁满脸褶子,儿子已是公司高管

揽星河的笔记
2026-08-20 14:35:02
2026-08-26 11:35:00
人工智能学家 incentive-icons
人工智能学家
人工智能领域权威媒体
5002文章数 37516关注度
往期回顾 全部

科技要闻

2026新一代AI(深圳)创业创新大赛总决赛

头条要闻

伊朗千万美元悬赏特朗普小儿子 特朗普或将"余生难安"

头条要闻

伊朗千万美元悬赏特朗普小儿子 特朗普或将"余生难安"

体育要闻

B费当选PFA最佳球员 曼联近16年首人

娱乐要闻

韩沛颖风波发酵,大学同学揭开细节

财经要闻

恒瑞医药被创新药开除了吗?

汽车要闻

硬派越野+华为智驾 泰钽700上市焕新价24.98万起

态度原创

游戏
艺术
房产
本地
公开课

《巫师3》登暴雪战网联动《暗黑4》 时隔30年再合作

艺术要闻

9位画家的18幅写实女性人物油画

房产要闻

一年亏掉26个亿!三江潮声,吹不醒南沙开建豪宅美梦

本地新闻

无印良品竟是桐乡造?这座小城藏着一个刀具帝国

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版