网易首页 > 网易号 > 正文 申请入驻

Anthropic高喊狼(AGI)来了,是为了人类还是IPO?

0
分享至



Anthropic昨晚发布了一篇长文,标题为《When AI builds itself》(当AI自我构建时),听起来像是阿西莫夫的某本科幻小说,主题也确实是一个很科幻的概念:recursive self-improvement(递归自我改进)。



简单说,过去是人类研究员写代码、跑实验、训练模型,然后把AI做得更强。可如果AI自己开始参与设计、训练、测试、优化自己的后继版本,那么AI进步的速度就不再只是由人类推动,可能开始由AI“自我进化”。

为此,Anthropic发出呼吁:

“我们认为,如果世界能够选择放缓或暂时中止前沿AI的开发,让社会结构和对齐研究跟上技术进步,这对世界大有裨益。”

这句话听起来像安全警告,但放在Anthropic准备IPO的时间点上,它也很难不被看作另一种叙事预演:Claude实在太好用了,甚至开始自己创造下一代Claude了。

01

新的风暴已经出现

为了说明AI正在越来越多地参与AI研发本身。Anthropic拿出了大量内部数据。

比如,截至2026年5月,Anthropic合并进代码库的代码中,超过80%由Claude编写。而在Claude Code发布之前,这个数字还仅是个位数。

到2026年第二季度,按Anthropic的统计,工程师每天合并的代码量已经比2024年高出约8倍。



比代码量更值得注意的是,Claude正在处理更开放的工程问题。

Anthropic在文中说,过去一年里,员工纠正Claude、把Claude拉回正轨,或者中途接手任务的频率一直在下降。这个变化不只发生在简单任务上,也发生在最复杂的开放任务上。

所谓开放任务,就是没有明确说明书的问题。比如系统崩了、训练任务挂了,工程师自己一开始也不知道答案长什么样,只能一边排查一边判断。

这类任务过去最依赖人的经验,而在那些最开放的任务里,Claude的成功率到2026年5月已经达到76%,六个月内提高了50个百分点。



不只是写代码,Anthropic还用Claude做代码审查,检查bug、安全漏洞和其他缺陷,他们回溯分析发现,如果过去每次代码变更都经过Claude自动审查,大约三分之一导致claude.ai线上事故的bug,本可以在上线前被拦下来。

更进一步,Claude已经开始参与研究流程。

Anthropic有一个固定测试:给Claude一段训练小模型的代码,让它在不改错结果的前提下,想办法把代码跑得更快。2025年5月,Claude Opus 4大概能跑出3倍加速;到了2026年4月,Claude Mythos Preview已经把这个数字推到了约52倍。

Anthropic还提到一个开放式AI安全研究案例。他们把一个问题交给Claude驱动的智能体:一个较弱模型能不能可靠监督一个更强模型?

这个过程需要提出假设、测试假设、和并行智能体共享发现、反复迭代。

两位人类研究员花了一周时间,弥合了大约23%的差距;而Claude在累计约800小时、约1.8万美元算力消耗下,弥合了97%。

这项结果当然有局限,问题是人类选的,评分标准也是人类定的,结果也没有完全迁移到生产规模模型上。但它仍然说明,Claude已经可以在一个人类设定好方向的研究框架里,自己设计实验、自己执行、自己迭代。

另外,在人类研究员“走错路”的时候,Claude还能给出更好的下一步判断。

Anthropic找了129个内部Claude Code研究会话,这些会话里,人类研究员和Claude一起解决开放式研究问题。Anthropic挑出其中一些“人类后来证明绕了弯路”的节点,然后把这个节点之前的上下文给不同版本的Claude,看它会建议下一步怎么做。再由另一个知道完整会话结局的Claude judge来判断:模型建议和人类当时的选择,哪个更好。

结果表明,在那些人类研究员已经被事后证明有改进空间的节点上,Claude越来越能提出更好的下一步。



过去,AI模型的进步主要靠人类研究员和工程师推动。人类决定做什么实验、写代码,训练模型、推动AI的功能迭代。

现在,这条链条里越来越多的环节,开始被Claude接走。

Anthropic给出了一个很直观的阶段表:



2021到2023年,Anthropic和普通科技公司没什么区别,都是人类在笔记本电脑上写代码、写文档。

2023到2025年,聊天机器人开始进入工作流。工程师让模型生成代码片段,再复制到编辑器里。

2025到2026年,编程智能体出现,Claude开始能自主编写和修改代码,有时甚至能独立完成整个文件。

到了今天,智能体已经可以自己运行代码,还能把长达数小时的工作委派给其他智能体。

再往后,就是Anthropic真正担心的那个阶段:闭合回路。

如果这一天到来,Claude的后续版本,就可能由Claude自身持续改进——这就是recursive self-improvement,递归自我改进。

Anthropic在文中说得很谨慎:我们还没有走到那一步,递归自我改进也不是必然发生。但它依然在强调,通往那一步的路径,已经开始变得可见。

所以Anthropic才会在文章最后谈到减速,甚至暂停。它的意思不是现在所有AI公司立刻停工,而是说,如果未来AI自我改进风险继续上升,前沿实验室需要一套协调、可验证的减速机制。

换句话讲,“奇点”就要到了,人类必须加以控制。

02

势不可挡的Claude

如果只看表面,这是一篇非常具有前瞻意识的安全文档。Anthropic在讲递归自我改进,讲AI可能越来越快地改进自己,讲人类社会需要提前准备减速和暂停机制。

但放在Anthropic准备IPO的时间点上,这篇文章就有了另一层意思。

某种意义上,A厂最近的动态很像班上那种欠儿欠儿的优等生——它确实有能耐,但也确实很装。

它想说的不只是“我们有一个很强的Claude”,比这更前一步,它想说“Claude正在帮助我们制造更强的Claude”。

如果Anthropic只是卖一个模型或者卖一个工具,它就很难彻底摆脱横向比较:Anthropic有Claude,OpenAI有GPT;Anthropic有Claude Code,OpenAI有Codex;Anthropic抢企业客户,OpenAI也抢企业客户。两家公司的竞争非常胶着,就看谁能向市场讲出更大的故事。

需要注意的是,就在3天前,OpenAI前脚在一份关于前沿AI治理的文件里写道:

“我们也在今天的系统中看到了递归自我改进的早期迹象:AI的发展本身正在被AI加速。

这将加剧开发者和国家之间的竞争压力,并带来现有机构无法应对的治理挑战。”

3天后,Anthropic后脚就说:Claude通往递归自我改进的路径,已经开始变得可见。



要是Claude真如它所期待的那样发展,就不是普通产品叙事了,它会变成一个研发飞轮。

Claude写代码、跑实验、优化训练流程,再反过来减少Anthropic自己产品里的事故……一旦这套系统跑起来,Claude就不只是Anthropic的一个产品,也是Anthropic的重要生产工具。

用户看到的是Claude这个产品,企业客户买的是Claude的能力,但Anthropic真正想让资本市场注意的是:Claude已经嵌入了前沿模型研发的底层流程,它被放到了Anthropic的发动机舱里。

资本市场最喜欢听飞轮的故事,像聚宝盆一样财源滚滚:更强的Claude让Anthropic的工程师能合并更多代码,更多代码让产品和基础设施迭代更快,更快的迭代让研究员能跑更多实验,更多实验又反过来帮助下一代Claude变强。下一代Claude变强后,再继续加速Anthropic的研发。

Claude的迭代速度也在支撑这个飞轮。从公开发布时间看,2023年到2025年初,Claude的主要模型更新大多是三四个月一轮,但在进入Claude 4之后,Anthropic的模型更新明显变密。

Claude 4在2025年5月发布,Opus 4.1在8月发布,Sonnet 4.5在9月发布,Haiku 4.5在10月发布,Opus 4.5在11月发布。

到了2026年,Opus 4.6在2月5日发布,Sonnet 4.6在2月17日发布,Opus 4.7在4月15日发布,Opus 4.8在5月28日发布。Opus 4.7到Opus 4.8,只隔了42天。

Anthropic表面上是在说“这件事可能很危险,我们要提前准备刹车”,但它同时也在暗示:“我们已经看见油门踩下去之后会发生什么。”

IPO叙事的微妙之处就在于此。它一边把风险讲得很重,一边也把自己的技术位置抬得很高。

不是所有AI公司都有资格讨论递归自我改进,你得先让外界相信,你的AI已经进入了AI研发流程,才有资格说这件事可能需要全球协调。

03

OpenAI:怎么可以这样?

前面提到,就在Anthropic发这篇长文之前,OpenAI刚刚把递归自我改进摆上了桌。

但两家公司的讲法很不一样。

OpenAI那篇《Democratic Governance of Frontier AI》,是一份写给华盛顿的政策蓝图,它关心的不是“模型怎么变强”,而是当前沿AI继续往前冲,该如何加以约束。

那篇报告里面提到的大多内容不太适合加以赘述,唯独一句话关键:OpenAI说,今天的系统中,已经可以看到递归自我改进的早期迹象。

这句话和Anthropic这篇长文,其实指向同一个方向。

只不过OpenAI在讲制度,Anthropic在讲自己。

OpenAI的意思是:AI发展太快,现有治理结构可能跟不上,所以需要一套新的规则。

而Anthropic直接把那个系统亮了出来,告诉市场:Claude已经进入了我们的研发流程,所以我们看见了AI自我加速的路径。

这一手玩得很高明,感觉OpenAI内部指不定已经开始蛐蛐了——这简直是剽窃创意!明明是我们先来的!

开个玩笑,不过OpenAI确实需要加把劲了,快点把GPT 5.6抬上来吧。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
丢人丢到国外了!49岁中国奥运冠军严重违规被查,官方:他已辞职

丢人丢到国外了!49岁中国奥运冠军严重违规被查,官方:他已辞职

二疯说球
2026-07-31 10:14:55
贡萨洛-拉莫斯:我助葡萄牙晋级世界杯16强,打西班牙却没上场

贡萨洛-拉莫斯:我助葡萄牙晋级世界杯16强,打西班牙却没上场

懂球帝
2026-09-30 22:15:07
黑龙江富豪惨遭灭门,保姆装死逃过一劫,保姆:凶手怎么会是他?

黑龙江富豪惨遭灭门,保姆装死逃过一劫,保姆:凶手怎么会是他?

林林故事揭秘
2025-04-10 17:37:49
原来有车不仅带给女生安全感,还有爽感!网友:我要有,我也爽!

原来有车不仅带给女生安全感,还有爽感!网友:我要有,我也爽!

另子维爱读史
2026-10-01 19:17:45
吉利版“大揽胜”SUV曝光,5座6座都有!

吉利版“大揽胜”SUV曝光,5座6座都有!

米粒说车唯一呀
2026-10-01 19:36:17
印度机长被刺重伤后反抗,数人齐力把客机从“死亡坠落”中拉回,174人获救

印度机长被刺重伤后反抗,数人齐力把客机从“死亡坠落”中拉回,174人获救

译言
2026-10-01 07:25:50
满心欢喜出境游,72岁阿婆递上护照,边检民警愣住了!证件作废,旅游泡汤

满心欢喜出境游,72岁阿婆递上护照,边检民警愣住了!证件作废,旅游泡汤

新民晚报
2026-09-30 13:27:21
国庆前夕,第一批“大聪明”们又又又被堵在路上了

国庆前夕,第一批“大聪明”们又又又被堵在路上了

News脑洞
2026-09-30 15:44:04
解析2027款丰田皇冠:轿车配方大改,经典皇冠味道还在不在

解析2027款丰田皇冠:轿车配方大改,经典皇冠味道还在不在

趣味萌宠的日常
2026-10-01 18:57:38
比触电更恐怖!80%家庭每天重复4个致命操作,出事根本来不及

比触电更恐怖!80%家庭每天重复4个致命操作,出事根本来不及

小鹿姐姐情感说
2026-09-30 01:58:15
日本人评价抗美援朝:中国如果不发兵,美国根本走不到鸭绿江边

日本人评价抗美援朝:中国如果不发兵,美国根本走不到鸭绿江边

磊子讲史
2026-09-18 17:03:50
赖少其曾为贺子珍打抱不平,陈毅叮嘱他:有些事并非想象中那么简单!

赖少其曾为贺子珍打抱不平,陈毅叮嘱他:有些事并非想象中那么简单!

历史龙元阁
2026-09-30 17:55:16
就在昨天!林诗栋王楚钦确认退出2026WTT,原因并非大家想的那样

就在昨天!林诗栋王楚钦确认退出2026WTT,原因并非大家想的那样

璀璨幻行者
2026-10-01 19:00:25
9天5个涨停板!股民:又一次卖飞了!

9天5个涨停板!股民:又一次卖飞了!

数据挖掘分析
2026-10-01 15:47:47
独居上海,妻子去世,女儿在国外,86岁达式常忙活半辈子孤独吗?

独居上海,妻子去世,女儿在国外,86岁达式常忙活半辈子孤独吗?

娱圈办事处
2026-09-30 22:30:07
员工集体沉默拒绝加班!央国企领导叫不动人,背后四本账太扎心

员工集体沉默拒绝加班!央国企领导叫不动人,背后四本账太扎心

侃故事的阿庆
2026-10-01 01:21:39
11月3日若开拓者选择不与杨瀚森续约,他依然有三条出路

11月3日若开拓者选择不与杨瀚森续约,他依然有三条出路

姜大叔侃球
2026-10-01 13:15:14
空姐下跪后续:知情人还原现场,她连跪3次还要被踹,东航回应了

空姐下跪后续:知情人还原现场,她连跪3次还要被踹,东航回应了

圆梦的小老头
2026-10-01 01:35:45
史上最大升级!iPad mini 8本月发布:首次OLED屏、A20 Pro+12GB内存

史上最大升级!iPad mini 8本月发布:首次OLED屏、A20 Pro+12GB内存

快科技
2026-10-01 07:29:07
热苏斯:我和C罗约好首战后休两场,热身太久没上他生我气了

热苏斯:我和C罗约好首战后休两场,热身太久没上他生我气了

懂球帝
2026-10-01 03:04:06
2026-10-01 20:12:49
字母榜 incentive-icons
字母榜
让未来不止于大。
2821文章数 8094关注度
往期回顾 全部

科技要闻

5999元起!华为Mate 90系列发布

头条要闻

C罗离开后葡萄牙队7号球衣疑光速易主 莱奥将披7号球衣

头条要闻

C罗离开后葡萄牙队7号球衣疑光速易主 莱奥将披7号球衣

体育要闻

“今天的表现,我们可以昂首离开球场”

娱乐要闻

宋佳二封金鹰视后 内娱奖项史即将改写

财经要闻

智谱发上亿Token 能挽回开发者信任吗?

汽车要闻

2027款极氪001将于明年一季度上市 现款猎装同步推新配色

态度原创

旅游
艺术
房产
本地
公开课

旅游要闻

赤水河畔雨中行 四川古蔺600余人国庆重走长征路

艺术要闻

16幅 Alexander Shevelev风景油画

房产要闻

4000+/平!华侨城,直接把海口楼市的地板给掀了!

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版