网易首页 > 网易号 > 正文 申请入驻

游戏结束了?OpenAI可能已经突破,跨过起飞的最后临界阈值

0
分享至

机器之心报道

编辑:陈陈

OpenAI 的研究达到了可以自我递归改进的程度?

刚刚,X 上的一则帖子爆火,浏览量达到 30 多万。

该推文涉及引领 AI 潮流的 OpenAI。内容显示「OpenAI 递归式自我改进目前在一个盒子里,准确的说是在一个无法破解的盒子!」



我们不难看出,帖子内容突出了 OpenAI 的发展态势,AI可以自我改进,并且很难有人短期内破解。还有一则帖子表示:

「OpenAI 可能已经获得了突破,并最终跨越了临界点,达到一个起飞状态 —— 即智能达到了可以自我递归改进的程度,o4 或 o5 将能够自动化 AI 研发并完成其余工作。

像 o1 这样的模型的大部分意义不在于部署它,而在于为下一个模型生成训练数据。o1 解决的每一个问题现在都是 o3 的训练数据点。

实际上我们有点惊讶于 OpenAI 竟然费心的部署了 o1-pro,而不是将其保持私密并投资计算资源进行更多的 o3 训练等。这显然与 Anthropic 和 Claude-3.6-opus 的开发不同,这个模型没有研发失败,只是 Anthropic 选择将其保持私密,并将其蒸馏成一个小而便宜但很智能的 Claude-3.6-sonnet。

如果你想知道为什么 OpenAI 的人突然在 X 上变得几乎是狂喜地乐观,认真观察从原始 4o 模型到 o3 的改进可能就是原因。

这就像观看 AlphaGo 的 Elo 曲线:它只是不断 up……up……up……

这给我们一种感觉,他们已经获得突破,终于跨越了临界点,即从仅仅是尖端 AI 工作(其他机构将在几年内才能复制),到起飞(破解智能),以至于 o4 或 o5 将能够自动化 AI 研发并完成其余工作。」





在这条推文下,大家的讨论格外热烈。

有人表示「如果这是真的,如果模型不需要人类进行训练,那么《黑客帝国》的结果就不再有效了。」



「我一直是这么想的,OpenAI 没有向公众发布他们最新的优秀模型,他们总是在内部领先 1 或 2 代,因为这为他们提供了开发优势。」



「也许最可怕的不是上述观点是否正确,而是我们无法判断他是否错误。」



就连 OpenAI 研究员 Jason Wei 也跑到评论区发言:魔法,就是当一个不可阻挡的强化学习(RL)优化算法,在充足的计算资源驱动下,遇到一个无法被攻破的强化学习环境时,奇迹就发生了。



Andrej Karpathy 也发表了自己的观点:魔法就是当优化技巧破解了那个环境时,就会出现。



对于上述观点,你怎么看,欢迎评论区留言。

https://x.com/AISafetyMemes/status/1879624959934497078

https://x.com/AISafetyMemes/status/1879938756334977117

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
阳江否认此前致4死交通事故与割胎汽修厂有关!称车胎无异常

阳江否认此前致4死交通事故与割胎汽修厂有关!称车胎无异常

南方都市报
2025-02-12 17:46:19
马斯克宣称美国将成为一党制国家!美国的民主制会就此终结?

马斯克宣称美国将成为一党制国家!美国的民主制会就此终结?

不掉线电波
2025-02-12 17:09:45
封号大戏后麻六记后门店集体开播,抖音副总裁紧急找台阶:欢迎!

封号大戏后麻六记后门店集体开播,抖音副总裁紧急找台阶:欢迎!

乌娱子酱
2025-02-12 14:16:36
任正非,突传消息!

任正非,突传消息!

21世纪经济报道
2025-02-12 18:43:50
不反对中国统一,美军态度巨变,唯一条件已开出,不想决战解放军

不反对中国统一,美军态度巨变,唯一条件已开出,不想决战解放军

文雅笔墨
2025-02-12 20:15:25
越野车被货车追尾,丈夫、儿子及保姆身亡!肇事司机判三缓五,检方抗诉法院决定再审

越野车被货车追尾,丈夫、儿子及保姆身亡!肇事司机判三缓五,检方抗诉法院决定再审

红星新闻
2025-02-12 18:32:19
枪战致2死后,俄罗斯女首富与丈夫离婚:22年婚姻结束,7个孩子跟随妈妈

枪战致2死后,俄罗斯女首富与丈夫离婚:22年婚姻结束,7个孩子跟随妈妈

红星新闻
2025-02-12 16:45:10
拿来主义救不了深圳:写在deepseek爆火之后

拿来主义救不了深圳:写在deepseek爆火之后

鹿鸣财经
2025-02-12 17:31:29
9.9万元起!春晚爆火的机器人上线京东后又下架!客服:不再卖给个人! 生产公司正招人,年薪最高90万

9.9万元起!春晚爆火的机器人上线京东后又下架!客服:不再卖给个人! 生产公司正招人,年薪最高90万

每日经济新闻
2025-02-12 23:16:12
元宵节打虎!刘卫东任上被查

元宵节打虎!刘卫东任上被查

政知新媒体
2025-02-12 15:38:44
男子持棍殴打外卖员?成都警方通报

男子持棍殴打外卖员?成都警方通报

界面新闻
2025-02-12 21:37:24
江西金溪之眼的公路已通车!老房东呆坐院中身上脏兮兮,尽显无奈

江西金溪之眼的公路已通车!老房东呆坐院中身上脏兮兮,尽显无奈

魔都姐姐杂谈
2025-02-12 14:45:19
重磅消息传出,股市直线飙升

重磅消息传出,股市直线飙升

资本时差
2025-02-12 15:39:53
外媒透露:中国考虑融资68亿美元帮助万科偿还债务

外媒透露:中国考虑融资68亿美元帮助万科偿还债务

小星球探索
2025-02-12 17:41:58
核子跑路时间太巧了!赶上世卫疫苗事件发酵,偏偏又被限制高消费

核子跑路时间太巧了!赶上世卫疫苗事件发酵,偏偏又被限制高消费

大风文字
2025-02-12 17:33:55
马云突然在公司现身,有网友注意到他穿的鞋不简单!售价疑似高达六七千

马云突然在公司现身,有网友注意到他穿的鞋不简单!售价疑似高达六七千

可达鸭面面观
2025-02-12 21:56:22
汪峰首谈失败婚姻,与金钱无关,叹:她不是不美,只是我厌倦了

汪峰首谈失败婚姻,与金钱无关,叹:她不是不美,只是我厌倦了

飞花文史
2025-02-12 17:57:59
《哪吒2》海外评分8.3,西方观众兴奋好评,没看懂电影双重讽刺

《哪吒2》海外评分8.3,西方观众兴奋好评,没看懂电影双重讽刺

光影新天地
2025-02-12 13:15:16
网红在飞机拍了一张照片,面临35万罚款加6年牢...千万别乱拍

网红在飞机拍了一张照片,面临35万罚款加6年牢...千万别乱拍

书画艺术收藏
2025-02-06 19:35:03
泽连斯基:乌克兰计划同俄罗斯互换部分领土

泽连斯基:乌克兰计划同俄罗斯互换部分领土

新京报
2025-02-12 07:54:44
2025-02-13 02:28:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
10046文章数 142191关注度
往期回顾 全部

科技要闻

京东“0佣金”入局外卖,美团饿了么怕了吗

头条要闻

媒体:特朗普说"乌可能属于俄" 泽连斯基应该心里一凉

头条要闻

媒体:特朗普说"乌可能属于俄" 泽连斯基应该心里一凉

体育要闻

五大中卫,也填补不了瓜迪奥拉的安全感

娱乐要闻

S妈二度悲伤发文悼念大S惹争议

财经要闻

6位杭州老板,撑起了中国科技界的门面

汽车要闻

比亚迪,打响“智驾平权”革命第一枪

态度原创

数码
亲子
教育
健康
公开课

数码要闻

InWin 迎广海外推出 1050W 功率 P105 II 白金效能电源,199 美元

亲子要闻

孩子被鼻塞、鼻涕折磨,这一招超有效!但千万别用错了

教育要闻

妈妈看着题目,一脸迷茫

抑郁症患者称好的“乌托邦”宝地

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版