网易首页 > 网易号 > 正文 申请入驻

年近70,强化学习之父Sutton创业了!

0
分享至

来源:市场资讯

(来源:机器之心Pro)

编辑|泽南、山辉

年近 70 岁的图灵奖得主、强化学习之父理查德・萨顿(Richard Sutton),宣布创业了。

本周一,Richard Sutton 宣布与 Khurram Javed 共同创立新公司 Oak Lab,要打破当前深度学习方式,用全新的理念构建 AGI。


Oak Lab 致力于开发能够通过自身第一人称经验独立、持续学习的 AI 智能体。这意味着 AI 不再依赖人类喂养的庞大数据集或静态训练,而是能像生物一样,在与环境交互的运行过程中(Run-time)实时试错、进化并自我完善。

之所以另辟蹊径,是因为当前的大语言模型(LLM)的扩展可能存在天花板。Richard Sutton 指出,当前大模型主要依赖海量的静态数据进行预训练,它们非常擅长模仿人类,但无法评估自身的输出结果,也不具备真正探索和发现的能力。

为此,Oak Lab 的核心方向就是推进萨顿提出的新架构OaK(Options and Knowledge,选项与知识)。Oak Lab 的终极目标是打造一个拥有万亿参数、并且能够在仅 20 瓦极低能耗下进行实时学习和规划的智能体,从而通过纯粹的经验累积通向超级智能(AGI)。


去年 8 月在 AGI-25 大会上,Richard Sutton 亲自阐述 OaK 架构的设计理念以及他对于如何通过经验实现超级智能的愿景。

作为《苦涩的教训》(The Bitter Lesson)的作者,近年来 Richard Sutton 时常对大语言模型持批评态度,认为大模型 Scaling Laws 并未完全贯彻他的思想,这背后是顶尖学者对于 AI 路线的根本理念之争。

Sutton 认为当前的大模型没有真正贯彻「通用计算 + 自主经验学习」的核心精神。真正的智能需要发现新知识,就像 AlphaGo 最初学习人类棋谱,但真正击败李世石并进化为 AlphaZero 的,是它通过强化学习在无数次自我对弈中探索出了人类从未见过的招法。Sutton 认为,AGI 必须具备通过试错(Trial and Error)产生增量知识的能力,而不仅仅是咀嚼已有数据。

其实在今年 1 月,DeepMind 的 AlphaGo 之父、Sutton 的学生 David Silver 已经宣布创业,Silver 的理念与他的导师类似,也是希望通过强化学习让 AI 学会通过与环境互动、自我博弈和纯粹的经验来生成新知识。

LLM 的本质是序列预测,它并不真正理解物理世界的因果关系。Sutton 提出的 OaK 架构追求的是运行时(Run-time)的持续学习。AI 应该像生物一样,在与世界交互的每一秒都在更新自己的内部模型,而不是依赖人类定期喂给它的数据集。

它的核心是让智能体建立关于环境的内部「世界模型」,并利用这些模型去预测自己行为的长期后果。这种基于选项(Options, 即在时间上延伸的动作)的长期规划能力,是目前基于注意力机制的 Transformer 架构极难内生实现的。


Richard Sutton 目前担任加拿大阿尔伯塔大学(University of Alberta)的计算机科学教授。他曾与安德鲁・巴托 (Andrew Barto) 共同荣获 2024 年 ACM 图灵奖。作为现代强化学习的奠基者之一,数十年来始终围绕「机器如何持续学习」展开研究。

自早期的时序差分学习和 Dyna 架构开始,他不断尝试减少学习对固定训练流程和人工设定的依赖。

近年来,他与 Khurram Javed 密切合作,将注意力转向在线学习中的稳定性与适应性问题。他们共同开展的 SwiftTD、Swift-Sarsa 等工作,尝试让系统自主调节学习速度,并从大量不断变化的输入中识别真正有用的信息。

如今,Oak Lab 可以被看做他将学术主张进一步推向实践的大胆尝试。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
普京刚借兵,中方发出郑重警告,乌核心人物被斩首,军火流向黑市

普京刚借兵,中方发出郑重警告,乌核心人物被斩首,军火流向黑市

泠泠说史
2026-07-31 01:31:27
预售价25.99万!小米新车官宣:9月正式上市

预售价25.99万!小米新车官宣:9月正式上市

科技阿维
2026-07-31 09:36:29
金价跌至878元,实体店金镯40克竟要3万多?

金价跌至878元,实体店金镯40克竟要3万多?

爱看剧的阿峰
2026-07-31 00:42:44
重磅!长鑫科技研发总部落户光谷,存储‘双雄’在武汉正式会师!

重磅!长鑫科技研发总部落户光谷,存储‘双雄’在武汉正式会师!

爱看剧的阿峰
2026-07-31 03:20:26
原来他是王虹父亲,为女儿放弃政府办工作,怪不得女儿拿国际大奖

原来他是王虹父亲,为女儿放弃政府办工作,怪不得女儿拿国际大奖

翰飞观事
2026-07-28 14:27:17
7月31日,2026年养老金调整通知会公布吗?会按不同档次来调整吗

7月31日,2026年养老金调整通知会公布吗?会按不同档次来调整吗

社保小达人
2026-07-31 11:20:44
果然暴涨!满屏涨停

果然暴涨!满屏涨停

中国基金报
2026-07-31 10:35:45
1948 年,淮海战役未解谜团,杜聿明晚年直言,真正强敌并非粟裕,而是那位常在紧要关头暗中截断自身退路的寡言总长

1948 年,淮海战役未解谜团,杜聿明晚年直言,真正强敌并非粟裕,而是那位常在紧要关头暗中截断自身退路的寡言总长

磊子讲史
2026-07-14 10:50:11
熬过这波热 降温希望有了→

熬过这波热 降温希望有了→

上海预警发布
2026-07-31 10:56:20
俄罗斯并非不想采购中国尖端武器,真正卡住双方合作的,是俄方死活不愿交出中方最看重的那份核心技术

俄罗斯并非不想采购中国尖端武器,真正卡住双方合作的,是俄方死活不愿交出中方最看重的那份核心技术

人生录
2026-07-27 00:05:06
继续豪砸!切尔西重启重磅谈判,誓签 8000 万英超天才中场

继续豪砸!切尔西重启重磅谈判,誓签 8000 万英超天才中场

一隅非生
2026-07-31 08:38:44
除了这支球队,威少在 NBA 已无人问津,技术短板与现代篮球不合拍

除了这支球队,威少在 NBA 已无人问津,技术短板与现代篮球不合拍

姜大叔侃球
2026-07-31 10:31:52
亏损2亿后,丈母娘来家里做客,邹市明做了5道家常菜节俭孝顺卑微

亏损2亿后,丈母娘来家里做客,邹市明做了5道家常菜节俭孝顺卑微

椰黄娱乐
2026-07-31 11:35:13
三星工程师:我所在团队30人,除了两位组长全都申请了SK海力士

三星工程师:我所在团队30人,除了两位组长全都申请了SK海力士

历史的尘埃发
2026-07-29 00:49:32
“缘分太神奇了!”女兵翻出39年前和老连长的合照发网上寻人,没想到真找到了!见面后一张新合影看哭全网

“缘分太神奇了!”女兵翻出39年前和老连长的合照发网上寻人,没想到真找到了!见面后一张新合影看哭全网

一丝不苟的法律人
2026-07-28 12:50:06
政治局会议定调扩内需:消费迎提质升级,服务消费“挑大梁”

政治局会议定调扩内需:消费迎提质升级,服务消费“挑大梁”

新京报
2026-07-30 21:10:36
宁送皇马,绝不给巴萨!西足协正式立案,阿尔瓦雷斯合同锁到2030,5亿买断条款面前巴萨1亿报价直接砸回去

宁送皇马,绝不给巴萨!西足协正式立案,阿尔瓦雷斯合同锁到2030,5亿买断条款面前巴萨1亿报价直接砸回去

小七说篮球
2026-07-31 10:19:16
被嘲讽的黑色三角杯,想要关注,自身实力还差点

被嘲讽的黑色三角杯,想要关注,自身实力还差点

飛尚日记
2026-07-31 09:41:16
丈母娘摔伤,老婆非得接来家里,保证不用我管,第二天她傻眼了

丈母娘摔伤,老婆非得接来家里,保证不用我管,第二天她傻眼了

游戏收藏指南
2026-07-31 05:51:49
最低调普京女婿被亿万富豪当街暴打:拒绝10亿赔偿,只提一个要求

最低调普京女婿被亿万富豪当街暴打:拒绝10亿赔偿,只提一个要求

刀刃故事
2024-11-11 10:40:21
2026-07-31 12:32:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
4272260文章数 9098关注度
往期回顾 全部

科技要闻

传特斯拉考虑卖中国业务 为合并SpaceX铺路

头条要闻

5岁儿子被拐31年后母子团聚 儿子:记忆中被转手数次

头条要闻

5岁儿子被拐31年后母子团聚 儿子:记忆中被转手数次

体育要闻

菲尼克斯,止损后的漫漫长路

娱乐要闻

李小璐澄清夜宿门,被网友质疑想洗白

财经要闻

打新日确认!宇树科技IPO冲刺“冰与火”

汽车要闻

FREELANDER神行者8下线 8月10日开启预售/海外版同步推进

态度原创

艺术
游戏
本地
亲子
时尚

艺术要闻

一位博士彻底关掉手机旅行4个月,险些陷入绝境

不开机不上号不买游戏7天!超35万人联名抵制索尼

本地新闻

神仙也“蓉”漂,哪吒与八仙,皆是成都出品!

亲子要闻

带中韩双胞胎回中国!俩小朋友比我还急,简直是归心似箭

今年夏天最好看的4件套装,高级又气质!

无障碍浏览 进入关怀版