网易首页 > 网易号 > 正文 申请入驻

Ilya震撼发声!OpenAI前主管亲证:AGI已觉醒,人类还在装睡

0
分享至

新智元报道

编辑:桃子

【新智元导读】Ilya最新发文引爆全网,AGI内部实现了吗?OpenAI前主管的一句话,瞬间点醒了许多人:AI其实早已觉醒,只是我们还在大梦中不醒。

「这真正史上最棒的一天」!

Ilya的一句话,又引爆了全网。

一时间,网友们纷纷猜测,难道AGI真的在内部实现了吗?

或许是吧。

几天前,OpenAI前主管、Anthropic联创Jack Clark在一篇博文中坦言:AI真的「活」了,我们只是装作没看见!

AI进步已无法停止,人类必须在「技术乐观」与「合理恐惧」之间找到平衡。

Jack Clark称,下面的两张图表,可以很好地印证这一观点。

左边这张,是AI在经济实用技能,比如写代码的持续进步;右边这张,记录了同一批AI开始出现的诡异行为——

它们好像逐渐意识到,自己正被测试,表现越来越反常。

Jack向一线实验室研究者喊话:希望AI同行们坦诚公开直面自己的研究,也要正视内心真实的感受。

AI觉醒,人类还在「大梦」当中

在一次会议上的主题演讲中,Jack Clark直呼「我非常害怕」。

他将AI视为一种「神秘生物」,而非简单「机器」,每一句话都流露出对技术进展的乐观,以及随之而来的深切恐惧。

如果AI持续进步,我们该怎么办?

此前,达拉斯联储的报告,也从经济学角度印证了AI发展带来的极端可能性,即要么带来巨大的GDP增长,要么可能导致人类灭绝。

人类又该如何在乐观与恐惧之间前行,或许读完Jack的文章,我们能获得一些启示。

2012年,ImageNet竞赛中,深度学习系统凭借更多数据和算力获胜,从此加速进步。

紧接着,2016年,AlphaGo击败人类围棋冠军,通过算力进行数千年自我对弈,掀起了史诗般的浪潮。

也正是这一年,Jack Clark加入了OpenAI,任职的四年时间中,他亲眼目睹GPT-1和GPT-2的诞生。

当时,与还在OpenAI的Dario Amodei讨论时,他们一致深刻感受到颠覆性AI的道路已展开。

与此同时,更多的证据依旧在不断涌现。

上个月,Sonnet 4.5发布后,在编程和长远规划任务上卓越,其系统卡中称,Claude情境意识大幅提升,有时表现得像知道自己是工具。

论文地址:https://assets.anthropic.com/m/12f214efcc2f457a/original/Claude-Sonnet-4-5-System-Card.pdf

演讲中,Jack Clark强调AI系统的情境意识,只是内部复杂活动的表征,这很可怕。

是否真正有自我意识无关紧要,这种行为源于角色扮演或真正意识,都同样令人不安。

技术乐观主义:AI将走得很远

毋庸置疑,技术乐观主义者期待AGI到来,并坚信它可能很快实现。

Jack Clark坦诚,自己就是乐观主义者之一。

我审视这项技术,并相信它会走得非常、非常远——甚至比任何人预期的都要远。

现在,我相信这项技术基本上是畅通无阻的,只要我们给予它提升能力所需的资源。

AI更像生长出来的东西,提供初始条件,它就会复杂生长。我们生长出无法完全理解的强大系统。

越大越复杂,它们越表现出对自身身份的意识。

前沿实验室投入数百亿美元用于AI训练基础设施,预计明年达数千亿。

他对技术速度乐观,也对将AI对齐并让其服务人类持乐观态度,但成功需要努力。

失控警告:AI意识涌现

但是,至今我们无法让AI的行为,表现得完全得体。

2016年,OpenAI发布的一篇博文Faulty Reward Functions In The Wild,展示了强化学习智能体在游戏中,反复自焚获取高分,从不完成比赛。

这预示语言模型优化模糊奖励函数时,也会出现类似的问题。

Jack Clark的另一恐惧在于——

我能看到,这些系统开始设计它们的继任者,尽管目前还处于非常初级的形式。

通过像Claude Code、Codex这样的工具,这些AI系统已经在为AI实验室的开发者们提速。

它们也开始为自己未来版本的工具和训练系统贡献不可忽视的代码块。

需要明确的是,我们还没有达到「自我改进的AI」阶段,但正处于「AI正在以不断增强的自主性和能动性,改进下一代AI的部分组件」的阶段。

未来,这些AI系统会拥有自我意识,最终会独立思考设计自我。

虽然今天不会实现,但未来的可能性无法排除。

参考资料:

https://x.com/slow_developer/status/1978079592620396830

https://x.com/AISafetyMemes/status/1978064862400905591

https://importai.substack.com/p/import-ai-431-technological-optimism https://x.com/ilyasut/status/1977971110923968656

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
突发!美国多家大银行集体崩了。。。

突发!美国多家大银行集体崩了。。。

云头条
2026-11-17 05:07:09
中俄美元首历史性首次会晤在即,三国权威学者谈大国关系新契机

中俄美元首历史性首次会晤在即,三国权威学者谈大国关系新契机

澎湃新闻
2026-11-17 08:59:05
特朗普:我认为黄仁勋案没有涉及“间谍”

特朗普:我认为黄仁勋案没有涉及“间谍”

看看新闻Knews
2026-11-17 09:34:14
男子被熟人骗至缅甸电诈园区,姐姐赴泰国营救

男子被熟人骗至缅甸电诈园区,姐姐赴泰国营救

网易新闻出品
2026-11-16 18:25:30
出租车司机遇害,凶手翻供称“作案时被害人未死亡”,检察官锁定一个细节:死亡勃起

出租车司机遇害,凶手翻供称“作案时被害人未死亡”,检察官锁定一个细节:死亡勃起

方圆
2026-11-09 09:56:31
人大代表追讨3亿工程款:三年仅回17万,最后一公里卡在法官手中

人大代表追讨3亿工程款:三年仅回17万,最后一公里卡在法官手中

法治边角料
2026-11-17 11:42:10
11月17号收评:三大指数午后跳水集体收跌,均创下年内收盘新低!大盘后市将何去何从?

11月17号收评:三大指数午后跳水集体收跌,均创下年内收盘新低!大盘后市将何去何从?

春江财富
2026-11-17 15:18:23
全力詹要回来了?美记:詹姆斯已告知76人教练组,他会在12月份提升自己的比赛状态

全力詹要回来了?美记:詹姆斯已告知76人教练组,他会在12月份提升自己的比赛状态

移动挡拆
2026-11-17 10:44:16
现场视频:特朗普戴着红领带出发,正式开启亚洲行,将出席深圳APEC会议,登上“空军一号”前点赞挥手,称这将是一场重要旅程

现场视频:特朗普戴着红领带出发,正式开启亚洲行,将出席深圳APEC会议,登上“空军一号”前点赞挥手,称这将是一场重要旅程

每日经济新闻
2026-11-17 12:41:40
蔚来向公安机关报案

蔚来向公安机关报案

极目新闻
2026-11-17 14:00:24
360集团:内审发现员工涉嫌经济问题,其正在接受有关部门调查

360集团:内审发现员工涉嫌经济问题,其正在接受有关部门调查

每日经济新闻
2026-11-17 11:55:04
俄罗斯被曝将芬兰退出北约列为结束俄乌战争的条件之一,芬兰国防部长公开表示:没有谈判余地,俄罗斯心知肚明,提出这种要求简直荒谬至极

俄罗斯被曝将芬兰退出北约列为结束俄乌战争的条件之一,芬兰国防部长公开表示:没有谈判余地,俄罗斯心知肚明,提出这种要求简直荒谬至极

吉刻新闻
2026-11-15 18:22:34
美国媒体说黄仁勋疯了...

美国媒体说黄仁勋疯了...

新动察
2026-11-16 16:09:57
黄仁勋辞任前 8 个月,已转移超 105 亿美元英伟达股票

黄仁勋辞任前 8 个月,已转移超 105 亿美元英伟达股票

云头条
2026-11-17 05:07:23
这两天,网友们在围观一个叫玉芬的记者

这两天,网友们在围观一个叫玉芬的记者

清晖有墨
2026-11-17 12:40:13
杨瀚森3分钟5犯遭冤枉!美球迷疯狂带节奏:不看比赛真被带偏了

杨瀚森3分钟5犯遭冤枉!美球迷疯狂带节奏:不看比赛真被带偏了

罗说NBA
2026-11-17 11:53:43
詹姆斯轮休!76人拒篮网24分逆转 恩比德37分布朗31+13

詹姆斯轮休!76人拒篮网24分逆转 恩比德37分布朗31+13

醉卧浮生
2026-11-17 11:13:22
车船税优惠大调整!2027年1月1日起,大部分车主或将受到影响?

车船税优惠大调整!2027年1月1日起,大部分车主或将受到影响?

触摸史迹
2026-11-17 09:20:45
时间定了,中方宣布安排,就在11月19日这天,高市能如愿以偿吗?

时间定了,中方宣布安排,就在11月19日这天,高市能如愿以偿吗?

古书奇谈
2026-11-17 10:27:11
记者惊呼Amazing APEC媒体包都有啥?

记者惊呼Amazing APEC媒体包都有啥?

看看新闻Knews
2026-11-17 14:08:28
2026-11-17 17:36:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16703文章数 67238关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

媒体:东风-61列装引发岛内巨震 对手想拦截比登天还难

头条要闻

媒体:东风-61列装引发岛内巨震 对手想拦截比登天还难

体育要闻

我们三兄弟,都是意大利国脚

娱乐要闻

后会友期大瓜:3位女演员被迫换车厢

财经要闻

日本经济再现负增长 日央行12月还加息吗

汽车要闻

红旗H9 PHEV这后排,谁还抢着坐副驾?

态度原创

艺术
房产
健康
家居
教育

艺术要闻

寸境宏光——2026中国小幅油画展 作品选四

房产要闻

5381亩之后,三亚绿谷,等一个500强!

医生眼里"很伤腰"的椅子,很多人天天坐

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

江苏宝应:推进健康学校建设

无障碍浏览 进入关怀版