网易首页 > 网易号 > 正文 申请入驻

Anthropic高喊狼(AGI)来了,是为了人类还是IPO?

0
分享至



Anthropic昨晚发布了一篇长文,标题为《When AI builds itself》(当AI自我构建时),听起来像是阿西莫夫的某本科幻小说,主题也确实是一个很科幻的概念:recursive self-improvement(递归自我改进)。



简单说,过去是人类研究员写代码、跑实验、训练模型,然后把AI做得更强。可如果AI自己开始参与设计、训练、测试、优化自己的后继版本,那么AI进步的速度就不再只是由人类推动,可能开始由AI“自我进化”。

为此,Anthropic发出呼吁:

“我们认为,如果世界能够选择放缓或暂时中止前沿AI的开发,让社会结构和对齐研究跟上技术进步,这对世界大有裨益。”

这句话听起来像安全警告,但放在Anthropic准备IPO的时间点上,它也很难不被看作另一种叙事预演:Claude实在太好用了,甚至开始自己创造下一代Claude了。

01

新的风暴已经出现

为了说明AI正在越来越多地参与AI研发本身。Anthropic拿出了大量内部数据。

比如,截至2026年5月,Anthropic合并进代码库的代码中,超过80%由Claude编写。而在Claude Code发布之前,这个数字还仅是个位数。

到2026年第二季度,按Anthropic的统计,工程师每天合并的代码量已经比2024年高出约8倍。



比代码量更值得注意的是,Claude正在处理更开放的工程问题。

Anthropic在文中说,过去一年里,员工纠正Claude、把Claude拉回正轨,或者中途接手任务的频率一直在下降。这个变化不只发生在简单任务上,也发生在最复杂的开放任务上。

所谓开放任务,就是没有明确说明书的问题。比如系统崩了、训练任务挂了,工程师自己一开始也不知道答案长什么样,只能一边排查一边判断。

这类任务过去最依赖人的经验,而在那些最开放的任务里,Claude的成功率到2026年5月已经达到76%,六个月内提高了50个百分点。



不只是写代码,Anthropic还用Claude做代码审查,检查bug、安全漏洞和其他缺陷,他们回溯分析发现,如果过去每次代码变更都经过Claude自动审查,大约三分之一导致claude.ai线上事故的bug,本可以在上线前被拦下来。

更进一步,Claude已经开始参与研究流程。

Anthropic有一个固定测试:给Claude一段训练小模型的代码,让它在不改错结果的前提下,想办法把代码跑得更快。2025年5月,Claude Opus 4大概能跑出3倍加速;到了2026年4月,Claude Mythos Preview已经把这个数字推到了约52倍。

Anthropic还提到一个开放式AI安全研究案例。他们把一个问题交给Claude驱动的智能体:一个较弱模型能不能可靠监督一个更强模型?

这个过程需要提出假设、测试假设、和并行智能体共享发现、反复迭代。

两位人类研究员花了一周时间,弥合了大约23%的差距;而Claude在累计约800小时、约1.8万美元算力消耗下,弥合了97%。

这项结果当然有局限,问题是人类选的,评分标准也是人类定的,结果也没有完全迁移到生产规模模型上。但它仍然说明,Claude已经可以在一个人类设定好方向的研究框架里,自己设计实验、自己执行、自己迭代。

另外,在人类研究员“走错路”的时候,Claude还能给出更好的下一步判断。

Anthropic找了129个内部Claude Code研究会话,这些会话里,人类研究员和Claude一起解决开放式研究问题。Anthropic挑出其中一些“人类后来证明绕了弯路”的节点,然后把这个节点之前的上下文给不同版本的Claude,看它会建议下一步怎么做。再由另一个知道完整会话结局的Claude judge来判断:模型建议和人类当时的选择,哪个更好。

结果表明,在那些人类研究员已经被事后证明有改进空间的节点上,Claude越来越能提出更好的下一步。



过去,AI模型的进步主要靠人类研究员和工程师推动。人类决定做什么实验、写代码,训练模型、推动AI的功能迭代。

现在,这条链条里越来越多的环节,开始被Claude接走。

Anthropic给出了一个很直观的阶段表:



2021到2023年,Anthropic和普通科技公司没什么区别,都是人类在笔记本电脑上写代码、写文档。

2023到2025年,聊天机器人开始进入工作流。工程师让模型生成代码片段,再复制到编辑器里。

2025到2026年,编程智能体出现,Claude开始能自主编写和修改代码,有时甚至能独立完成整个文件。

到了今天,智能体已经可以自己运行代码,还能把长达数小时的工作委派给其他智能体。

再往后,就是Anthropic真正担心的那个阶段:闭合回路

如果这一天到来,Claude的后续版本,就可能由Claude自身持续改进——这就是recursive self-improvement,递归自我改进。

Anthropic在文中说得很谨慎:我们还没有走到那一步,递归自我改进也不是必然发生。但它依然在强调,通往那一步的路径,已经开始变得可见。

所以Anthropic才会在文章最后谈到减速,甚至暂停。它的意思不是现在所有AI公司立刻停工,而是说,如果未来AI自我改进风险继续上升,前沿实验室需要一套协调、可验证的减速机制。

换句话讲,“奇点”就要到了,人类必须加以控制。

02

势不可挡的Claude

如果只看表面,这是一篇非常具有前瞻意识的安全文档。Anthropic在讲递归自我改进,讲AI可能越来越快地改进自己,讲人类社会需要提前准备减速和暂停机制。

但放在Anthropic准备IPO的时间点上,这篇文章就有了另一层意思。

某种意义上,A厂最近的动态很像班上那种欠儿欠儿的优等生——它确实有能耐,但也确实很装。

它想说的不只是“我们有一个很强的Claude”,比这更前一步,它想说“Claude正在帮助我们制造更强的Claude”。

如果Anthropic只是卖一个模型或者卖一个工具,它就很难彻底摆脱横向比较:Anthropic有Claude,OpenAI有GPT;Anthropic有Claude Code,OpenAI有Codex;Anthropic抢企业客户,OpenAI也抢企业客户。两家公司的竞争非常胶着,就看谁能向市场讲出更大的故事。

需要注意的是,就在3天前,OpenAI前脚在一份关于前沿AI治理的文件里写道:

“我们也在今天的系统中看到了递归自我改进的早期迹象:AI的发展本身正在被AI加速。

这将加剧开发者和国家之间的竞争压力,并带来现有机构无法应对的治理挑战。”

3天后,Anthropic后脚就说:Claude通往递归自我改进的路径,已经开始变得可见。



要是Claude真如它所期待的那样发展,就不是普通产品叙事了,它会变成一个研发飞轮。

Claude写代码、跑实验、优化训练流程,再反过来减少Anthropic自己产品里的事故……一旦这套系统跑起来,Claude就不只是Anthropic的一个产品,也是Anthropic的重要生产工具。

用户看到的是Claude这个产品,企业客户买的是Claude的能力,但Anthropic真正想让资本市场注意的是:Claude已经嵌入了前沿模型研发的底层流程,它被放到了Anthropic的发动机舱里。

资本市场最喜欢听飞轮的故事,像聚宝盆一样财源滚滚:更强的Claude让Anthropic的工程师能合并更多代码,更多代码让产品和基础设施迭代更快,更快的迭代让研究员能跑更多实验,更多实验又反过来帮助下一代Claude变强。下一代Claude变强后,再继续加速Anthropic的研发。

Claude的迭代速度也在支撑这个飞轮。从公开发布时间看,2023年到2025年初,Claude的主要模型更新大多是三四个月一轮,但在进入Claude 4之后,Anthropic的模型更新明显变密。

Claude 4在2025年5月发布,Opus 4.1在8月发布,Sonnet 4.5在9月发布,Haiku 4.5在10月发布,Opus 4.5在11月发布。

到了2026年,Opus 4.6在2月5日发布,Sonnet 4.6在2月17日发布,Opus 4.7在4月15日发布,Opus 4.8在5月28日发布。Opus 4.7到Opus 4.8,只隔了42天。

Anthropic表面上是在说“这件事可能很危险,我们要提前准备刹车”,但它同时也在暗示:“我们已经看见油门踩下去之后会发生什么。”

IPO叙事的微妙之处就在于此。它一边把风险讲得很重,一边也把自己的技术位置抬得很高。

不是所有AI公司都有资格讨论递归自我改进,你得先让外界相信,你的AI已经进入了AI研发流程,才有资格说这件事可能需要全球协调。

03

OpenAI:怎么可以这样?

前面提到,就在Anthropic发这篇长文之前,OpenAI刚刚把递归自我改进摆上了桌。

但两家公司的讲法很不一样。

OpenAI那篇《Democratic Governance of Frontier AI》,是一份写给华盛顿的政策蓝图,它关心的不是“模型怎么变强”,而是当前沿AI继续往前冲,该如何加以约束。

那篇报告里面提到的大多内容不太适合加以赘述,唯独一句话关键:OpenAI说,今天的系统中,已经可以看到递归自我改进的早期迹象。

这句话和Anthropic这篇长文,其实指向同一个方向。

只不过OpenAI在讲制度,Anthropic在讲自己。

OpenAI的意思是:AI发展太快,现有治理结构可能跟不上,所以需要一套新的规则。

而Anthropic直接把那个系统亮了出来,告诉市场:Claude已经进入了我们的研发流程,所以我们看见了AI自我加速的路径。

这一手玩得很高明,感觉OpenAI内部指不定已经开始蛐蛐了——这简直是剽窃创意!明明是我们先来的!

开个玩笑,不过OpenAI确实需要加把劲了,快点把GPT 5.6抬上来吧。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
纪委反腐四大硬核手段:通话记录、微信记录、电子数据及大数据

纪委反腐四大硬核手段:通话记录、微信记录、电子数据及大数据

细说职场
2026-06-04 22:43:53
中国男篮调整大名单!增补3人,5人离队,广东仅剩3人留队

中国男篮调整大名单!增补3人,5人离队,广东仅剩3人留队

多特体育说
2026-06-05 19:15:04
谢霆锋全款拿下一套价值2.8亿的顶级豪宅,房产证上干干净净

谢霆锋全款拿下一套价值2.8亿的顶级豪宅,房产证上干干净净

庭小娱
2026-06-04 10:49:17
不陪特朗普玩了!伊朗发起斩首行动,美军司令部被炸?英法德失声

不陪特朗普玩了!伊朗发起斩首行动,美军司令部被炸?英法德失声

超喜欢我
2026-06-04 00:56:36
伊朗最高领袖军事顾问:对以色列在黎巴嫩侵略行径的“忍让到此为止”,所有导弹都已就绪,以军再往前一步,北部地区将变成“凄惨的地狱”

伊朗最高领袖军事顾问:对以色列在黎巴嫩侵略行径的“忍让到此为止”,所有导弹都已就绪,以军再往前一步,北部地区将变成“凄惨的地狱”

扬子晚报
2026-06-05 19:25:18
腾讯高管:今年腾讯大部分代码都由AI生成

腾讯高管:今年腾讯大部分代码都由AI生成

财联社
2026-06-05 10:42:15
两性关系,夫妻之间最肉麻的三件事,你还敢做吗?

两性关系,夫妻之间最肉麻的三件事,你还敢做吗?

娱乐洞察点点
2026-06-05 20:54:17
林允,这么瘦还这么有料

林允,这么瘦还这么有料

手工制作阿歼
2026-06-05 20:18:33
黄仁勋证实:已批准SK海力士、三星电子和美光科技向英伟达供应HBM4芯片

黄仁勋证实:已批准SK海力士、三星电子和美光科技向英伟达供应HBM4芯片

粤语音乐喷泉
2026-06-05 17:08:37
高市彻底凉了,美国抛弃日本,高市早苗哭晕在厕所里!

高市彻底凉了,美国抛弃日本,高市早苗哭晕在厕所里!

奇思妙想生活家
2026-06-05 20:51:46
悲剧!因电视噪音扰民,物业联系无果断电,多日后才发现业主死亡

悲剧!因电视噪音扰民,物业联系无果断电,多日后才发现业主死亡

火山詩话
2026-06-05 05:50:53
湖南省浏阳市委原常委、市人民政府原副市长李翔接受纪律审查和监察调查

湖南省浏阳市委原常委、市人民政府原副市长李翔接受纪律审查和监察调查

环球网资讯
2026-06-05 13:37:12
葬在我国龙脉上的三个人:一个挖不开,一个不敢挖,一个不能挖

葬在我国龙脉上的三个人:一个挖不开,一个不敢挖,一个不能挖

抽象派大师
2026-06-03 22:10:32
一个家最好的风水,从来不是优秀的孩子,而是被善待的妈妈

一个家最好的风水,从来不是优秀的孩子,而是被善待的妈妈

青苹果sht
2026-05-30 05:15:46
博福尔城堡陷落:黎巴嫩真主党为何“数万大军”形同虚设

博福尔城堡陷落:黎巴嫩真主党为何“数万大军”形同虚设

民间胡扯老哥
2026-06-01 16:12:33
美国现在才了解,中国是全世界唯一内在和外在都最强大的超级大国

美国现在才了解,中国是全世界唯一内在和外在都最强大的超级大国

音乐时光的娱乐
2026-06-05 20:47:02
地主让唐伯虎为茅厕题诗,出价十两银子,谁知竟成千古名句

地主让唐伯虎为茅厕题诗,出价十两银子,谁知竟成千古名句

史之铭
2026-05-10 20:01:26
马刺队内讧?新秀转发嘲讽视频!主教练赛后揽责,确实不应该

马刺队内讧?新秀转发嘲讽视频!主教练赛后揽责,确实不应该

Haviven聊球
2026-06-05 20:27:33
人这一生,四大定数,皆是天意

人这一生,四大定数,皆是天意

青苹果sht
2026-06-02 05:16:02
乌克兰将对莫斯科发射国产弹道导弹!暗示可制造核武器

乌克兰将对莫斯科发射国产弹道导弹!暗示可制造核武器

项鹏飞
2026-06-05 17:11:18
2026-06-05 22:08:49
字母榜 incentive-icons
字母榜
让未来不止于大。
2518文章数 8064关注度
往期回顾 全部

科技要闻

姚顺雨:加入腾讯是因为“坦诚文化”

头条要闻

处于麦田间的宋陵成网红打卡地 村民在麦田边挂起横幅

头条要闻

处于麦田间的宋陵成网红打卡地 村民在麦田边挂起横幅

体育要闻

梅西与亚马尔之间,那个被遗忘的巴萨10号

娱乐要闻

汪东城曝吴尊要当爷爷 但其儿子才13岁

财经要闻

俞浩和追觅遭遇“黑色星期五”

汽车要闻

从 "克重战争" 到品牌澄清:蔚来的三年磨一剑

态度原创

艺术
本地
旅游
公开课
军事航空

艺术要闻

用太平洋上的垃圾,造市政建筑!

本地新闻

用杨柳青年画的方式,打开天津

旅游要闻

无锡一景区开始全面禁烟,游客:好评!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

特朗普:黎以和平谈判取得一定进展

无障碍浏览 进入关怀版