广东
宣布提交上市文件几天后，Anthropic开始呼吁叫停AI研发。
6月5日，美国人工智能公司 Anthropic 在官网发布报告称，当下AI技术迭代过快，未来AI系统或具备完全自主设计、开发和训练下一代AI系统的能力，从而导致巨大的社会风险。该公司呼吁，全球各大企业应考虑放缓乃至暂停开发先进AI系统，为社会结构调整和制度研究留出时间，使后者与技术进步相匹配。
据了解，该报告由Anthropic内部研究机构负责人与联合创始人撰写，其中披露了一系列公司内部数据。截至今年5月，Anthropic合并进代码库的代码中，超过80%由Claude编写，而在2月Claude Code发布之前，这一数字还仅是个位数。今年第二季度，Anthropic工程师每天合并的代码量比2024年高出约8倍。这意味着，AI正以一种惊人的速度推动自身开发进程，生产力迅速增长。
Anthropic员工人均季度代码交付量大幅增长。
不仅是“量”，AI生成代码也迎来了“质”的飞跃。报告提到，近一年来，Anthropic员工纠正、调整或中途接管Claude任务的频率一直稳步下降。在难度最高的开放式任务中，5月Claude代码的成功率达到了76%，六个月内提升了50%。AI还改变了Anthropic代码审查方式，如果每次代码变更都由Claude自动审查，约三分之一导致claude.ai线上事故的漏洞，都能被提前解决。
Claude代码成功率显著上升。
“Anthropic的员工还在利用Claude完成一些原本不可能完成的工作，例如构建探索性工具和处理长期积压的清理工作。”报告写道，今年4月，Claude 发布了800多个修复程序，将一类API错误减少了一千倍。负责Claude 的工程师估计，如果由人工完成这项工作，需要四年时间。
上述数据表明，在AI开发过程中，人类的作用正在减弱，这引发了Anthropic真正的担忧——任其发展下去，AI系统将具备“递进式自我迭代”能力，即自主设计、开发和训练下一代超越自身的新系统，无需人类参与。然而，当前社会生产方式、组织方式以及市场运作方式等还无法跟上技术的发展步伐，二者不匹配会产生许多社会问题。
为此，Anthropic在报告中呼吁，全球企业应考虑放缓或暂停AI研发，为社会结构调整和制度建设研究留出时间，使后者匹配技术发展的步伐，此举对人类社会意义非凡。另外，报告还提出建立一套全球协调机制，形成可信的AI暂缓研发协议，为成员单位放缓研究提供帮助，并核查其是否遵守该协议。
Anthropic此番表态很快引发全球科技圈关注。南都记者梳理发现，6月1日，Anthropic称已向美国证券交易委员会（SEC）保密递交了S-1注册声明草案，拟进行普通股首次公开募股，据悉上市估值有望冲破1万亿美元。在SEC完成审核后，该公司就可以与OpenAI、SpaceX等公司一同站在竞速上市的跑道上。
一边准备上市，一边呼吁全球公司暂缓AI研发，无疑招致了许多争议。最普遍的批评认为，Anthropic此举本质上是为保护自身商业利益，通过呼吁放缓AI研发打压对手、拖延竞品的研发速度，并且以“安全”之名游说政府出台更严格的监管政策，限制其他科技公司发展。还有观点指出，反向操作为AI发展“唱衰”可能是一种营销策略，借警告之名披露一系列内部数据，展现自家AI产品能力。
同时，也有观点肯定了Anthropic为人类应对AI负面影响而作出的努力。宾夕法尼亚大学沃顿商学院教授伊桑·莫里克（Ethan Mollick）在社交媒体上评价称，“其中夹杂着一些自我反思和营销成分，但也充分体现了Anthropic对不久后AI发展的真实看法。”
南都记者注意到，除了市场竞争、地缘政治等复杂因素，Anthropic的提议仍被广泛认为缺乏现实可行性。该报告明确反对单方面暂停开发，强调只有在全球协调、监督机制下，顶尖公司、实验室才能同步“刹车”。然而，有业内人士指出，AI训练所用的GPU硬件小型化、易隐藏，且支持分布式计算，技术验证和监督几乎不可能实现。在这一背景下，该公司的呼吁更像一份“安全免责声明”，将未来面临的发展责任转移给尚未建立的监管机制。
采写：南都N视频记者 樊文扬
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
