Anthropic警示AI自我进化过快，呼吁适度放缓前沿研发

超八成代码为自动生成，Anthropic警示AI自我进化过快，呼吁适度放缓前沿研发。

Anthropic发表最新技术博文《当人工智能自我构建时》

依托Claude，Anthropic超八成代码已由AI生成，工程师开发效率数倍抬升，AI自主迭代、递归式自我改进进程提速超预期。美国大模型公司Anthropic在最新技术博文中《当人工智能自我构建时》披露实测数据并预判三类行业走向，同时罕见提出观点：合理放慢尖端AI研发节奏，留给社会配套完善窗口期，或将利好全人类安全发展。

Anthropic 称，截至今年5月，80%以上的Anthropic代码，都由Claude写的。而在Claude Code发布之前，这个数字还仅是个位数。与此同时，Anthropic工程师平均每季度交付的代码量，是2021至2025年的8倍。

“在 Anthropic 成立的前四年，也就是 2021 年至 2024 年，每位工程师每天合并的代码行数基本保持稳定；到 2025 年，随着 Claude 开始运行代码，而不只是建议工程师复制粘贴代码，这一数字开始上升。”

Anthropic 表示，2026 年，随着模型开始在更长的时间范围内自主运行，这一增长速度再次加快。数据显示，2026 年第二季度，Anthropic 普通工程师每天合并的代码量是 2024 年的 8 倍。

Claude编写的代码“很好”，而且还在不断改进，在这种情况下，未来的工作模式会是怎样的？Anthropic表示，未来可能会出现至少三种不同的情形：

第一，虽然指数级增长的趋势可能会停滞，但如今AI的能力已经广泛普及。Anthropic称，我们目前仍处于将现有模型推广到更广泛经济领域的早期阶段，但制约人工智能进步的因素不在模型本身，可能在供应链、芯片制造速度、电网扩展速度或互连带宽等；

第二，人工智能实验室的效率将持续提升，人工智能的开发将高度自动化，但人类仍然负责设定研究方向和评估结果。随着时间的推移，使用人工智能系统的组织将变得更加高效，组织中每个人的生产力都将得到显著提升。像Anthropic这样的公司，人类的角色也将发生转变。人们将与人工智能系统合作，扩大研究规模，共同构建验证人工智能是否可信所需的系统。

第三，人工智能系统本身将具备完全递归式自我改进的能力，并开始构建其后继者。如果技术进步的趋势持续下去，人工智能系统能够发展出媲美人类具有变革性创造力，那么人工智能系统很可能进行自我设计和改进。

Anthropic 认为，在这样的世界里，人工智能发展的步伐将完全取决于人工智能系统所需的计算资源（或发现算法训练或推理中各种效率提升的速度），人类在人工智能系统发展中的作用将大幅降低，“我们的大部分精力可能会转移到对人工智能系统运行的‘虚拟实验室’进行监督、验证和确认。”

不过，Anthropic 表示，目前判断哪种结果最有可能还为时过早，但AI 已经在帮助构建 AI已是现实。

我们该怎么办？ 在这篇技术博客里，Anthropic称，如果能够有效减缓这项技术的发展速度，为我们人类提供更多时间来应对其巨大的影响，这或许是一件好事。但如果速度放缓反而让那些最不谨慎的参与者在技术上迎头赶上，那么最终可能会让所有人的安全都受到威胁。

“我们认为，如果世界可以选择放缓或暂时中止前沿人工智能的研发，从而使社会结构和协调研究能够跟上技术发展的步伐，这对世界大有好处。”Anthropic表示。

这篇文章由玛丽娜·法瓦罗（Marina Favaro）和 杰克·克拉克（Jack Clark ）共同撰写，其中杰克·克拉克是 Anthropic 联合创始人，玛丽娜·法瓦罗则参与 Anthropic研究院相关工作。

值得注意的是，Anthropic对AI风险的公开警告，发生在公司估值快速攀升并筹备上市的背景下。6月1日，Anthropic 在其官网公告称，公司已向美国证券交易委员会（SEC）秘密提交Form S-1注册声明草案，拟进行普通股首次公开募股。公司同时强调，具体发行股数和价格尚未确定，IPO将取决于市场条件及其他因素。另据英国《金融时报》报道，Anthropic已递交首次公开募股相关文件，拟以超过1万亿美元估值上市，这也使其与OpenAI、SpaceX等公司一道，成为新一轮科技巨头上市潮的焦点，若顺利上市，Anthropic可能成为新一代AI公司中最受关注的公开上市案例之一，也将为资本市场如何给生成式AI公司定价提供参照。