网易首页 > 网易号 > 正文 申请入驻

李飞飞最新对谈:多数人对RSI理解错了

0
分享至



“AI教母”李飞飞(左)

前谷歌DeepMind首席科学家Jeff Dean(右)

出品|搜狐科技

作者|郑松毅

编辑 | 杨 锦

RSI,递归自我改进,是眼下AI圈最热的话题之一。

讨论度最高的莫过于:当AI系统能够自我改进,会不会越跑越快,快到失控?

近日,在斯坦福HAI大会的压轴对谈中,“AI教母”李飞飞与谷歌大脑传奇巨匠Jeff Dean,把这个问题摆上了台面:谈及RSI的定义、揭开技术真相与大众想象的差距、以及AI进化对人类社会的实质影响。


“这个词在硅谷被叫得太随意”

今年8月,Jeff Dean结束27年谷歌生涯,和Sanjay Ghemawat、Quoc Le、Oriol Vinyals一起创办Discovery Loop。

这是一家公益公司,使命很直白:自动化机器学习、科学和工程。

比公司业务本身更先受到关注的,是这四位“各执长剑”的圈内大佬,他们共同参与过今天许多高能力模型的重要技术,包括模型蒸馏、混合专家模型(MoE),以及神经架构搜索,这些也基本是谷歌AI的地基。

很多人疑惑,Jeff Dean作为谷歌元老级员工,为何甘愿放弃已经成熟的果实,非走不可?

答案要追溯到Quoc Le十年前的神经架构搜索。这项工作,算得上早期的AI自我改进系统,只不过当时需要靠大量零散的Python代码,硬性框定模型的搜索空间。

“现在不一样了,我们可以直接用自然语言把任务交给模型,这是一个全新的阶段。”Jeff Dean说。

他也时常自嘲,有人会说他们有点“loopy”——有点疯。

一顿开场介绍后,李飞飞把话题拉回定义。

她提到,这个概念换过很多名字:增量学习、持续学习、元学习、终身学习、神经架构搜索,如今又有自我改进和RSI。

在Jeff Dean看来,虽然技术名称多样,但RSI的技术界限可以被划得很清楚。

“虽然自我改进的技术路子,通常是给系统一个可测的目标,比如模型准确率,让它不断试架构、试方法,把(准确率)数字往上推。但这还不算递归。”Jeff Dean指出。

他进一步解释区别:之前的自我改进技术并没有改进那个“提出下一步实验方案”的基础系统。而递归自我改进(RSI),是把同样的方法用在提方案的系统本身上。

简单来说,一个是改模型,一个是改“模型的脑子”。

李飞飞对此表示认同,同时警惕这种混淆:“不少宣传把前者包装成后者。尤其在硅谷,人们用得很随意,作为科学家,这让我有些不舒服。”

为了进一步讲清区别,李飞飞拿自己的厨艺“开涮”。

她解释道,“第一次煎蛋卷全糊,第二次好一点,做到第十次,能做出自己勉强咽下的东西了,这是自我改进。”

“但递归自我改进涉及大脑。在学习做煎蛋卷的过程中,我的大脑得发生某种变化,神经连接需要调整,让我有一个更好的系统来完成这件事。如果讨论硬件改进,也许我还能长出第六根手指。”李飞飞说。

两人最后还说到了同一件事:人类某种程度上也具备RSI能力,因为人是懂得“学习如何学习”的——理解自己怎样接收知识和信息最有效。


RSI加速AI进化走向失控?

对谈中,Jeff Dean被问到,“RSI是不是就像一个能一直加速AI进化的系统,最终走向失控?”

他表示,“有很多说法认为RSI很可怕,但如果把它当成一个运行中的工程系统来理解,就会少一些恐惧,也更容易理解它。”

在他看来,RSI确实会重塑工作流,尤其是科研领域,但目前不存在外界热议的“无限加速”“智能爆炸”的可能。

“RSI本质是压缩漫长的等待周期。以往研究者提交实验,往往要等到深夜甚至次日才能拿到结果,再人工判断、设计下一轮方案。而自动化可以实时读取实验反馈,快速规划后续测试,提升效率。”Jeff Dean说。

“但它始终受物理与工程条件约束。算力供给、模型训练、数据存储,每一环都有客观成本,不可能无限制提速,这和很多人想象得不一样。”Jeff Dean指出。

对话顺势延伸到近期学界热议的AI与科研,李飞飞也提到了此前和陶哲轩围绕“数学2.0”的交流。

她提到陶哲轩的观察:当下AI可以完成复杂命题的形式化证明,但也有一些问题仍在AI能力范围之外,尤其是尚无解法、缺少数据的问题。

Jeff Dean表示,AI可以产出数百页可校验的Lean 代码,验证结论真伪。但很多证明冗长晦涩,缺少数学家看重的“优雅”。机器能够给出答案,却未必能提炼出可迁移、能启发后续研究的新方法。

对此李飞飞抛出一个疑问:AI是否只擅长实验验证,但做不好理论推导?

Jeff Dean摆手称,“知道某件事可以做到,本身也很重要。如果知道一个问题可解,人们会更努力,或许能找到另一种更优雅的解法。”

对谈快结束时,李飞飞搞了个突击测验,问2017年6月12日是什么日子,不许用AI作弊。

Jeff Dean答出,“那是Transformer论文发到arXiv的日子。”

接着他承认,确实曾在一些技术路径上预测有错,比如没料到编程能力成了模型解决各种问题的关键,而Gemini早期并没把它放在最中心。

全场最后的问题,落在AI带来的社会影响上,包括就业变化、心理焦虑,以及关于人类灭绝等,Jeff Dean被问到最担心什么?

他回答,过去的一些技术革命,主要深入影响五个或十个领域。AI同时影响的领域更多,所以它会让人兴奋、忧虑,也会带来恐惧。

“我最关心的是,怎样尽可能实现AI在不同领域的益处,同时减少它可能造成的负面影响。例如,人们的工作受到影响后,需要有办法适应新的需求,继续获得有报酬的工作,过上富足的生活。这是一个涉及很多方面的问题,需要很多人一起解决。”Jeff Dean说。

谈到给年轻人的建议,Jeff Dean坦言面对快速变化的未来,规划确实很难,也很理解焦虑。眼下能做的是,了解正在出现、或者很快就会出现的新技术,学会把它们用于自己最有热情的事情。




运营编辑 | 曹倩 审核|孟莎莎




特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
七位法国游客在杭州点了七块东坡肉,店家端肉上桌那一刻,众人顿时脸色铁青

七位法国游客在杭州点了七块东坡肉,店家端肉上桌那一刻,众人顿时脸色铁青

麦子情感故事
2026-11-17 19:22:08
联盟第一!湖人加时逆转黄蜂9连胜 东契奇36分格莱姆斯47+10三分

联盟第一!湖人加时逆转黄蜂9连胜 东契奇36分格莱姆斯47+10三分

醉卧浮生
2026-11-18 15:02:34
英伟达临时CEO证实:H200正式退出对华销售

英伟达临时CEO证实:H200正式退出对华销售

快科技
2026-11-18 11:37:03
腾讯发声:已到生死存亡时刻

腾讯发声:已到生死存亡时刻

首席品牌评论
2026-11-17 16:49:36
游客称1600元烤全羊剥不出1两肉,四川涉事民宿回应:火候偏大烤干了,当地文旅部门:已介入调查

游客称1600元烤全羊剥不出1两肉,四川涉事民宿回应:火候偏大烤干了,当地文旅部门:已介入调查

大风新闻
2026-11-18 11:16:18
太硬气了!央视今天拒绝转播开拓者队比赛,原因或许只有一个

太硬气了!央视今天拒绝转播开拓者队比赛,原因或许只有一个

南海浪花
2026-11-18 11:34:45
痛心!38岁江苏美女教师梁娇去世,丈夫去世不到百天,女儿才7岁

痛心!38岁江苏美女教师梁娇去世,丈夫去世不到百天,女儿才7岁

云舟史策
2025-06-23 09:35:09
老一辈眼光就是毒辣!黄仁勋4天出局,我爸说:欧美怎么可能把AI交给一个华人?黄仁勋的倒台,从一开始就不意外

老一辈眼光就是毒辣!黄仁勋4天出局,我爸说:欧美怎么可能把AI交给一个华人?黄仁勋的倒台,从一开始就不意外

秋风妃
2026-11-17 22:55:03
全网点赞班主任!孩子三次不交作业,家长群内怒斥老师,老师公开致歉:“孩子将来好坏和我们无关”

全网点赞班主任!孩子三次不交作业,家长群内怒斥老师,老师公开致歉:“孩子将来好坏和我们无关”

火山詩话
2026-11-18 06:17:30
姚笛分享近况,住大房子连凳子都是LV的,但并不开心焦虑到躯体化

姚笛分享近况,住大房子连凳子都是LV的,但并不开心焦虑到躯体化

八怪娱
2026-11-18 09:29:26
APEC会议近700辆红旗车全流程接待,“豪华车队”亮相深圳,网友感慨:简直是一支“外交跑腿天团”

APEC会议近700辆红旗车全流程接待,“豪华车队”亮相深圳,网友感慨:简直是一支“外交跑腿天团”

极目新闻
2026-11-18 10:24:16
英伟达:停止向中国供应 H200

英伟达:停止向中国供应 H200

云头条
2026-11-18 12:16:55
APEC现场|普京点赞亚洲国家跨越式发展,乐观期待中俄美元首会晤

APEC现场|普京点赞亚洲国家跨越式发展,乐观期待中俄美元首会晤

澎湃新闻
2026-11-18 15:54:40
APEC还没开幕,深圳的饭菜先火了,一群老外齐齐用起了筷子!

APEC还没开幕,深圳的饭菜先火了,一群老外齐齐用起了筷子!

讲者普拉斯
2026-11-18 11:01:12
如果你是黄仁勋,这三个女人会选谁?

如果你是黄仁勋,这三个女人会选谁?

仕道
2026-11-18 14:14:20
19.99万 !特斯拉新车上市!

19.99万 !特斯拉新车上市!

科技堡垒
2026-11-18 08:00:39
大厂主动报案,副总裁被警方带走

大厂主动报案,副总裁被警方带走

中国新闻周刊
2026-11-17 23:06:06
7-0!阿根廷迎后梅西时代首胜 3人双响 小蜘蛛2场3球 8000万红星闪耀

7-0!阿根廷迎后梅西时代首胜 3人双响 小蜘蛛2场3球 8000万红星闪耀

我爱英超
2026-11-18 08:58:01
宁波:高速堵满了集卡,夜市却空了一半

宁波:高速堵满了集卡,夜市却空了一半

茶狐看世界本尊
2026-11-18 13:25:44
首次访华就想给下马威?中方二话不说撤走仪仗队:想好了再来

首次访华就想给下马威?中方二话不说撤走仪仗队:想好了再来

一姐说军史
2026-06-29 15:10:55
2026-11-18 16:31:00
搜狐科技 incentive-icons
搜狐科技
搜狐科技官方账号
5074文章数 9201关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

媒体:今年APEC特殊 无论怎样先把领导人全家福拍起来

头条要闻

媒体:今年APEC特殊 无论怎样先把领导人全家福拍起来

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

认亲被嘲讽后郭德纲委托律师发声明

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

健康
亲子
教育
公开课
军事航空

医生眼里"很伤腰"的椅子,很多人天天坐

亲子要闻

守护提前到来的生命,“护曦行动”十年救助1260名早产儿

教育要闻

AI时代怎样育人?如何唤醒孩子内心力量?成都多校共探以德育心,破解青少年成长新课题

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军再袭伊朗格什姆岛

无障碍浏览 进入关怀版