网易首页 > 网易号 > 正文 申请入驻

Anthropic高喊狼(AGI)来了,是为了人类还是IPO?

0
分享至



Anthropic昨晚发布了一篇长文,标题为《When AI builds itself》(当AI自我构建时),听起来像是阿西莫夫的某本科幻小说,主题也确实是一个很科幻的概念:recursive self-improvement(递归自我改进)。



简单说,过去是人类研究员写代码、跑实验、训练模型,然后把AI做得更强。可如果AI自己开始参与设计、训练、测试、优化自己的后继版本,那么AI进步的速度就不再只是由人类推动,可能开始由AI“自我进化”。

为此,Anthropic发出呼吁:

“我们认为,如果世界能够选择放缓或暂时中止前沿AI的开发,让社会结构和对齐研究跟上技术进步,这对世界大有裨益。”

这句话听起来像安全警告,但放在Anthropic准备IPO的时间点上,它也很难不被看作另一种叙事预演:Claude实在太好用了,甚至开始自己创造下一代Claude了。

01

新的风暴已经出现

为了说明AI正在越来越多地参与AI研发本身。Anthropic拿出了大量内部数据。

比如,截至2026年5月,Anthropic合并进代码库的代码中,超过80%由Claude编写。而在Claude Code发布之前,这个数字还仅是个位数。

到2026年第二季度,按Anthropic的统计,工程师每天合并的代码量已经比2024年高出约8倍。



比代码量更值得注意的是,Claude正在处理更开放的工程问题。

Anthropic在文中说,过去一年里,员工纠正Claude、把Claude拉回正轨,或者中途接手任务的频率一直在下降。这个变化不只发生在简单任务上,也发生在最复杂的开放任务上。

所谓开放任务,就是没有明确说明书的问题。比如系统崩了、训练任务挂了,工程师自己一开始也不知道答案长什么样,只能一边排查一边判断。

这类任务过去最依赖人的经验,而在那些最开放的任务里,Claude的成功率到2026年5月已经达到76%,六个月内提高了50个百分点。



不只是写代码,Anthropic还用Claude做代码审查,检查bug、安全漏洞和其他缺陷,他们回溯分析发现,如果过去每次代码变更都经过Claude自动审查,大约三分之一导致claude.ai线上事故的bug,本可以在上线前被拦下来。

更进一步,Claude已经开始参与研究流程。

Anthropic有一个固定测试:给Claude一段训练小模型的代码,让它在不改错结果的前提下,想办法把代码跑得更快。2025年5月,Claude Opus 4大概能跑出3倍加速;到了2026年4月,Claude Mythos Preview已经把这个数字推到了约52倍。

Anthropic还提到一个开放式AI安全研究案例。他们把一个问题交给Claude驱动的智能体:一个较弱模型能不能可靠监督一个更强模型?

这个过程需要提出假设、测试假设、和并行智能体共享发现、反复迭代。

两位人类研究员花了一周时间,弥合了大约23%的差距;而Claude在累计约800小时、约1.8万美元算力消耗下,弥合了97%。

这项结果当然有局限,问题是人类选的,评分标准也是人类定的,结果也没有完全迁移到生产规模模型上。但它仍然说明,Claude已经可以在一个人类设定好方向的研究框架里,自己设计实验、自己执行、自己迭代。

另外,在人类研究员“走错路”的时候,Claude还能给出更好的下一步判断。

Anthropic找了129个内部Claude Code研究会话,这些会话里,人类研究员和Claude一起解决开放式研究问题。Anthropic挑出其中一些“人类后来证明绕了弯路”的节点,然后把这个节点之前的上下文给不同版本的Claude,看它会建议下一步怎么做。再由另一个知道完整会话结局的Claude judge来判断:模型建议和人类当时的选择,哪个更好。

结果表明,在那些人类研究员已经被事后证明有改进空间的节点上,Claude越来越能提出更好的下一步。



过去,AI模型的进步主要靠人类研究员和工程师推动。人类决定做什么实验、写代码,训练模型、推动AI的功能迭代。

现在,这条链条里越来越多的环节,开始被Claude接走。

Anthropic给出了一个很直观的阶段表:



2021到2023年,Anthropic和普通科技公司没什么区别,都是人类在笔记本电脑上写代码、写文档。

2023到2025年,聊天机器人开始进入工作流。工程师让模型生成代码片段,再复制到编辑器里。

2025到2026年,编程智能体出现,Claude开始能自主编写和修改代码,有时甚至能独立完成整个文件。

到了今天,智能体已经可以自己运行代码,还能把长达数小时的工作委派给其他智能体。

再往后,就是Anthropic真正担心的那个阶段:闭合回路

如果这一天到来,Claude的后续版本,就可能由Claude自身持续改进——这就是recursive self-improvement,递归自我改进。

Anthropic在文中说得很谨慎:我们还没有走到那一步,递归自我改进也不是必然发生。但它依然在强调,通往那一步的路径,已经开始变得可见。

所以Anthropic才会在文章最后谈到减速,甚至暂停。它的意思不是现在所有AI公司立刻停工,而是说,如果未来AI自我改进风险继续上升,前沿实验室需要一套协调、可验证的减速机制。

换句话讲,“奇点”就要到了,人类必须加以控制。

02

势不可挡的Claude

如果只看表面,这是一篇非常具有前瞻意识的安全文档。Anthropic在讲递归自我改进,讲AI可能越来越快地改进自己,讲人类社会需要提前准备减速和暂停机制。

但放在Anthropic准备IPO的时间点上,这篇文章就有了另一层意思。

某种意义上,A厂最近的动态很像班上那种欠儿欠儿的优等生——它确实有能耐,但也确实很装。

它想说的不只是“我们有一个很强的Claude”,比这更前一步,它想说“Claude正在帮助我们制造更强的Claude”。

如果Anthropic只是卖一个模型或者卖一个工具,它就很难彻底摆脱横向比较:Anthropic有Claude,OpenAI有GPT;Anthropic有Claude Code,OpenAI有Codex;Anthropic抢企业客户,OpenAI也抢企业客户。两家公司的竞争非常胶着,就看谁能向市场讲出更大的故事。

需要注意的是,就在3天前,OpenAI前脚在一份关于前沿AI治理的文件里写道:

“我们也在今天的系统中看到了递归自我改进的早期迹象:AI的发展本身正在被AI加速。

这将加剧开发者和国家之间的竞争压力,并带来现有机构无法应对的治理挑战。”

3天后,Anthropic后脚就说:Claude通往递归自我改进的路径,已经开始变得可见。



要是Claude真如它所期待的那样发展,就不是普通产品叙事了,它会变成一个研发飞轮。

Claude写代码、跑实验、优化训练流程,再反过来减少Anthropic自己产品里的事故……一旦这套系统跑起来,Claude就不只是Anthropic的一个产品,也是Anthropic的重要生产工具。

用户看到的是Claude这个产品,企业客户买的是Claude的能力,但Anthropic真正想让资本市场注意的是:Claude已经嵌入了前沿模型研发的底层流程,它被放到了Anthropic的发动机舱里。

资本市场最喜欢听飞轮的故事,像聚宝盆一样财源滚滚:更强的Claude让Anthropic的工程师能合并更多代码,更多代码让产品和基础设施迭代更快,更快的迭代让研究员能跑更多实验,更多实验又反过来帮助下一代Claude变强。下一代Claude变强后,再继续加速Anthropic的研发。

Claude的迭代速度也在支撑这个飞轮。从公开发布时间看,2023年到2025年初,Claude的主要模型更新大多是三四个月一轮,但在进入Claude 4之后,Anthropic的模型更新明显变密。

Claude 4在2025年5月发布,Opus 4.1在8月发布,Sonnet 4.5在9月发布,Haiku 4.5在10月发布,Opus 4.5在11月发布。

到了2026年,Opus 4.6在2月5日发布,Sonnet 4.6在2月17日发布,Opus 4.7在4月15日发布,Opus 4.8在5月28日发布。Opus 4.7到Opus 4.8,只隔了42天。

Anthropic表面上是在说“这件事可能很危险,我们要提前准备刹车”,但它同时也在暗示:“我们已经看见油门踩下去之后会发生什么。”

IPO叙事的微妙之处就在于此。它一边把风险讲得很重,一边也把自己的技术位置抬得很高。

不是所有AI公司都有资格讨论递归自我改进,你得先让外界相信,你的AI已经进入了AI研发流程,才有资格说这件事可能需要全球协调。

03

OpenAI:怎么可以这样?

前面提到,就在Anthropic发这篇长文之前,OpenAI刚刚把递归自我改进摆上了桌。

但两家公司的讲法很不一样。

OpenAI那篇《Democratic Governance of Frontier AI》,是一份写给华盛顿的政策蓝图,它关心的不是“模型怎么变强”,而是当前沿AI继续往前冲,该如何加以约束。

那篇报告里面提到的大多内容不太适合加以赘述,唯独一句话关键:OpenAI说,今天的系统中,已经可以看到递归自我改进的早期迹象。

这句话和Anthropic这篇长文,其实指向同一个方向。

只不过OpenAI在讲制度,Anthropic在讲自己。

OpenAI的意思是:AI发展太快,现有治理结构可能跟不上,所以需要一套新的规则。

而Anthropic直接把那个系统亮了出来,告诉市场:Claude已经进入了我们的研发流程,所以我们看见了AI自我加速的路径。

这一手玩得很高明,感觉OpenAI内部指不定已经开始蛐蛐了——这简直是剽窃创意!明明是我们先来的!

开个玩笑,不过OpenAI确实需要加把劲了,快点把GPT 5.6抬上来吧。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
21年前五一黄金周大案:太原警察纠集9名社会人员打死北京警察

21年前五一黄金周大案:太原警察纠集9名社会人员打死北京警察

墨策讲历史
2026-07-20 21:36:56
心气大于实力!勇士笑死了

心气大于实力!勇士笑死了

柚子说球
2026-07-21 10:53:12
女排世联赛总决赛今日打响!中国女排冲首冠 美国意大利三冠争霸

女排世联赛总决赛今日打响!中国女排冲首冠 美国意大利三冠争霸

天光破云来
2026-07-22 04:40:49
伊朗:调解方提议美伊停火10天!美国发布安全提示:伊朗可能在全球范围袭击美国人,美外交设施已成袭击目标,建议美国公民提高警惕

伊朗:调解方提议美伊停火10天!美国发布安全提示:伊朗可能在全球范围袭击美国人,美外交设施已成袭击目标,建议美国公民提高警惕

每日经济新闻
2026-07-21 12:37:09
89岁谢贤被CoCo爆料,分手原因:他身体跟不上我,张柏芝也被牵连

89岁谢贤被CoCo爆料,分手原因:他身体跟不上我,张柏芝也被牵连

老赳说历史
2026-05-14 13:45:45
乒乓女单排名出炉:孙颖莎拔得头筹,蒯曼无缘前三,日乒威胁加大

乒乓女单排名出炉:孙颖莎拔得头筹,蒯曼无缘前三,日乒威胁加大

舟望停云
2026-07-22 04:25:30
11岁男孩游泳遭排水口死死吸住 挣扎数分钟无人救援,最终溺亡

11岁男孩游泳遭排水口死死吸住 挣扎数分钟无人救援,最终溺亡

闪电新闻
2026-07-21 19:46:30
谢霆锋没想到,谢贤去世后,前妻张柏芝竟因2个举动口碑暴涨

谢霆锋没想到,谢贤去世后,前妻张柏芝竟因2个举动口碑暴涨

叨唠
2026-07-22 03:43:24
铜箔第一股,净利预增500%!

铜箔第一股,净利预增500%!

投研邦V
2026-07-21 19:44:03
整容成瘾、陪睡上位?视后杨紫带全家赴美度假,令人厌恶一幕发生

整容成瘾、陪睡上位?视后杨紫带全家赴美度假,令人厌恶一幕发生

潋滟晴方DAY
2026-07-19 23:13:34
两性心理学:敢和别人老婆“偷情”的男人,绝大多数都会有这两个“心理”,超准

两性心理学:敢和别人老婆“偷情”的男人,绝大多数都会有这两个“心理”,超准

心理观察局
2026-07-16 06:35:04
上了中学回头看:凡是用补习班排满假期的家庭,子女多半成绩平平;凡是留足自由时间的家庭,子女学习效率更高!

上了中学回头看:凡是用补习班排满假期的家庭,子女多半成绩平平;凡是留足自由时间的家庭,子女学习效率更高!

十点读书
2026-07-20 21:00:29
极目深度 27岁女会计转行助浴师:“三人组合”将失能者放入充气床,全程1个半小时要换三次水,单次收费280元,职业被相亲对象嫌弃仍坚持

极目深度 27岁女会计转行助浴师:“三人组合”将失能者放入充气床,全程1个半小时要换三次水,单次收费280元,职业被相亲对象嫌弃仍坚持

极目新闻
2026-07-21 14:18:00
上海人注意了,未来十年这些地方将成为价值顶流

上海人注意了,未来十年这些地方将成为价值顶流

糖逗在娱乐
2026-07-21 15:40:03
空服员揭秘:飞机上最不想听到乘客点的饮料,竟然是它

空服员揭秘:飞机上最不想听到乘客点的饮料,竟然是它

华人生活网
2026-07-21 03:31:39
宁损千万不罚款,同行全懵了!拆尽全省广告牌,浙江:不赚黑心钱

宁损千万不罚款,同行全懵了!拆尽全省广告牌,浙江:不赚黑心钱

我超有瓜
2026-07-21 11:18:06
麦克阿瑟一生最大天敌!如果粟裕挂帅入朝,朝鲜战局或将彻底改写

麦克阿瑟一生最大天敌!如果粟裕挂帅入朝,朝鲜战局或将彻底改写

黄丽搞笑小能手
2026-07-21 04:40:32
纯电900km续航!比亚迪新车曝光:8月上市

纯电900km续航!比亚迪新车曝光:8月上市

科技阿维
2026-07-21 21:25:15
韩红风波后首亮相北京!全副武装手拎包裹,行事匆匆上高端商务车

韩红风波后首亮相北京!全副武装手拎包裹,行事匆匆上高端商务车

老娱记啊
2026-07-20 16:41:28
贝克汉姆14岁的女儿小七怎么如此成熟了,好像少妇

贝克汉姆14岁的女儿小七怎么如此成熟了,好像少妇

西楼知趣杂谈
2026-06-13 19:52:21
2026-07-22 05:36:49
字母榜 incentive-icons
字母榜
让未来不止于大。
2628文章数 8076关注度
往期回顾 全部

科技要闻

OpenAI高管:Kimi K3强到没法用"蒸馏"解释

头条要闻

建于山体内 特朗普首次明确点名伊朗第四大核设施

头条要闻

建于山体内 特朗普首次明确点名伊朗第四大核设施

体育要闻

“不会进球”的前锋,在世界杯决赛进球了

娱乐要闻

谢贤被曝已火葬,狄波拉携儿女送别

财经要闻

百虾竞速上车:4条路线争夺车载AI话语权

汽车要闻

WAIC专访|易启未来余志勇:网易孵化按摩机器人 能识穴会“手法”

态度原创

游戏
手机
旅游
本地
公开课

BLG正式官宣大名单,Bin发文宣布离开赛场,新上单人选确定!

手机要闻

为iPhone Ultra准备好:苹果iOS 27代码首现双电芯设计

旅游要闻

把工业旅游做成真正的金字招牌

本地新闻

杭州诗意路名,自带氛围感

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版