网易首页 > 网易号 > 正文 申请入驻

惊爆!Anthropic呼吁全员停止AI研究

Anthropic呼吁全员停止AI研究

0
分享至

几天前,Anthropic发了一篇很长的博客。他们内部研究发现:AI正在加速AI自身的发展,而这条路,可能通向一个人类从未真正准备好的地方。

有人说这是上市前的公关炒作、也有人深以为然积极应对。Anthropic台城地说:我们也不确定AI最终走向哪里,但我们觉得有必要现在就告诉所有人。



一、AI的能力跃迁,比人类预期的快

先说一个Anthropic的研究结论,AI能独立完成任务的时长,在不断增长。

2024年3月,Claude Opus 3能搞定大概需要人类4分钟的软件任务。一年后,Claude Sonnet 3.7做到了1.5小时。再一年,Claude Opus 4.6,12小时。最新的Mythos Preview,在METR的测试框架里,连续工作超过16小时,已经到了测试工具能衡量的上限。

这个翻倍速度,从原来的每7个月翻一倍,加速到了现在的每4个月翻一倍。如果趋势不变,今年内,AI就能独立完成需要人类花好几天的任务。到2027年,可能是好几周。



二、Claude开始给自己写代码

Anthropic的工程师现在每季度提交的代码量,是2021年到2025年平均水平的8倍。这个数字背后,是Claude Code上线之后发生的结构性变化。在Claude Code出现之前,Anthropic代码库里AI写的代码占比一直是个位数。截至2026年5月,这个数字超过了80%。



代码量暴增,但质量呢?Anthropic说,这一年来,工程师需要纠正Claude的次数越来越少了。在最开放、最模糊、连答案长什么样都不确定的编程任务上,Claude的成功率从六个月前的26%跳到了现在的76%。50个百分点,半年时间。

Anthropic现在直接用Claude做代码审查。所有提交到代码库的改动,都会先过一遍Claude的自动审查,检查bug、安全漏洞和其他问题。他们回溯分析发现,如果之前每次改动都走这道流程,大约三分之一导致线上事故的bug,在上线前就会被拦住。那些写代码的工程师,已经是全球顶尖的AI系统开发者了。Claude在抓他们的bug。

三、研究能力,开始超过人类

编码之外,Anthropic还做了一个实验,每次发布新模型,都会给Claude一段训练小型AI模型的代码,让它在保证正确性的前提下把运行速度优化到最快。2025年5月,Claude Opus 4的答案是加速3倍。2026年4月,Claude Mythos Preview做到了52倍。一个熟练的人类研究员,需要4到8小时才能勉强达到4倍。

Anthropic给Claude一个AI安全研究课题,让它自己提假设、设计实验、跑结果。两个人类研究员花了大约一周,把研究中的某个关键gap缩小了23%。Claude用了约800小时的算力、花费约18000美元,把同一个gap缩小了97%。

这意味着,人类在AI开发流程里的参与,每一个环节都在收窄。代码是Claude写的,审查是Claude做的,实验执行Claude比人快一个数量级,实验设计Claude开始自己来了。目前人类还保有的比较优势,是研究品味和判断力,知道什么问题值得问,知道哪个方向更重要。但这个优势能守多久,Anthropic自己也说不准。

四、AI自我进化的三种可能性

Anthropic在博客里描绘了三种可能的走向。

第一,停滞。那些指数曲线其实是S曲线,研究判断力这件事靠规模解决不了,需要全新的架构突破。或者瓶颈出现在能源、芯片、算力的物理供应链上。

第二,AI持续加速,但人类仍然把着方向盘。组织效率指数级提升,100人的团队做出10万人规模的产出。Anthropic认为我们大概率正在走进这个场景。

第三,AI实现完全的递归自我提升,开始自己造下一代自己。这个场景下,AI的发展速度完全取决于算力。人类退到监督、验证、审核的位置。

Anthropic发这篇博客,是想警示全人类:AI进展在未来几年会加速,而不是持平或减缓。如果存在一个可验证的机制,能确保所有AI实验室都没有在偷偷加速,他们愿意减速,甚至暂停。他们计划在未来几个月内就这个议题与立法者展开沟通。

但是业界也有不同声音,认为一个编码工具不会产生真正的智能。虽然观点存在争议,这恰恰说明没有人真的知道接下来会发生什么。Anthropic自己也承认这一点。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
石缝里打出奇迹!700人伏击7000日军!仅牺牲7人,焚尸烧三天三夜

石缝里打出奇迹!700人伏击7000日军!仅牺牲7人,焚尸烧三天三夜

普览
2026-06-05 12:28:23
深度 | 刚写信约见面,泽连斯基为何转头又炸普京家乡?

深度 | 刚写信约见面,泽连斯基为何转头又炸普京家乡?

上观新闻
2026-06-07 20:58:12
蒋介石心腹陈布雷后人现状:两儿子正厅级以上,长孙却成民族罪人

蒋介石心腹陈布雷后人现状:两儿子正厅级以上,长孙却成民族罪人

兴趣知识
2026-06-08 01:55:36
日本香蕉,被卡脖子

日本香蕉,被卡脖子

大风新闻
2026-06-07 15:57:02
零跑新一代"神车"官宣:6月16日,正式亮相

零跑新一代"神车"官宣:6月16日,正式亮相

科技堡垒
2026-06-06 11:42:28
亚太股市集体重挫,沪指失守4000点,港股科网股大跳水,MINIMAX跌超10%,百度跌超7%

亚太股市集体重挫,沪指失守4000点,港股科网股大跳水,MINIMAX跌超10%,百度跌超7%

21世纪经济报道
2026-06-08 15:27:04
为什么人死叫归西?请客叫做东?撞墙叫南墙?打败仗叫败北?

为什么人死叫归西?请客叫做东?撞墙叫南墙?打败仗叫败北?

长风文史
2026-06-06 12:39:19
日本“自导自演”式搞事,被日媒看穿了

日本“自导自演”式搞事,被日媒看穿了

参考消息
2026-06-08 10:14:50
47 岁董璇舞剧首秀落幕:重组家庭的暖,从来不靠血缘定义

47 岁董璇舞剧首秀落幕:重组家庭的暖,从来不靠血缘定义

冷紫葉
2026-06-08 14:09:22
释永信和深圳女商人

释永信和深圳女商人

新浪财经
2026-06-07 01:55:09
樊振东输球原因找到了,波尔直言:并不是胶皮问题,而是这个方面

樊振东输球原因找到了,波尔直言:并不是胶皮问题,而是这个方面

画夕
2026-06-08 15:04:47
比磷化铟还缺!泵浦激光器需求暴增 8大龙头卡位光模块核心器件

比磷化铟还缺!泵浦激光器需求暴增 8大龙头卡位光模块核心器件

元芳说投资
2026-06-08 06:00:43
赌王三太陈婉珍,手里攥着67亿家产,却抠门到算计女婿和儿媳妇

赌王三太陈婉珍,手里攥着67亿家产,却抠门到算计女婿和儿媳妇

西楼知趣杂谈
2026-06-07 13:32:19
家长给高三儿子吃全碳水午餐,称孩子是来报恩的,引大量网友不满

家长给高三儿子吃全碳水午餐,称孩子是来报恩的,引大量网友不满

林林先生
2026-06-02 06:20:03
西媒:奥利塞愿加盟皇马,拜仁收到2.25亿欧才可能放人

西媒:奥利塞愿加盟皇马,拜仁收到2.25亿欧才可能放人

懂球帝
2026-06-07 20:42:17
弟弟5岁走失,20年后我去求职,看到对面老板戴父亲遗物当场愣住

弟弟5岁走失,20年后我去求职,看到对面老板戴父亲遗物当场愣住

千秋文化
2026-05-12 20:13:46
宋慧乔晒新照:嘟嘴自拍好惬意,单手托腮笑容甜美!

宋慧乔晒新照:嘟嘴自拍好惬意,单手托腮笑容甜美!

笑猫说说
2026-06-08 11:33:27
许家印干得最"虎"的一件事:砸1000亿填海造岛,从传奇到笑柄

许家印干得最"虎"的一件事:砸1000亿填海造岛,从传奇到笑柄

贱议你读史
2026-05-24 15:36:19
娃哈哈已换“姓”,宗馥莉另立门户,3个抢遗产的私生子如今怎样

娃哈哈已换“姓”,宗馥莉另立门户,3个抢遗产的私生子如今怎样

梁蜱爱玩车
2026-06-08 13:27:48
他58岁任四川省委书记,61岁接替华主席的职务,后来组建武警部队

他58岁任四川省委书记,61岁接替华主席的职务,后来组建武警部队

旧史新谭
2026-05-31 02:04:51
2026-06-08 16:19:00
技术领导力 incentive-icons
技术领导力
Mr.K,出过书,做过CTO
106文章数 607关注度
往期回顾 全部

科技要闻

美媒:OpenAI最重要的产品已不再是ChatGPT

头条要闻

重庆女子向精神医生诉苦 2次"被精神病"收治累计161天

头条要闻

重庆女子向精神医生诉苦 2次"被精神病"收治累计161天

体育要闻

德国人兹维列夫改变了自己的人生

娱乐要闻

44岁汤唯挺孕肚赴港待产!

财经要闻

流动性魔咒会再次上演吗

汽车要闻

一镜到底比亚迪海鸥天神之眼B智驾穿越城中村

态度原创

健康
艺术
数码
房产
公开课

新规能促进干细胞治疗乱象规范吗?

艺术要闻

2026年内蒙古师范大学美术学院 研究生毕业作品选

数码要闻

雷柏推出VH800Pro四模电竞耳机,249元

房产要闻

10,000元大奖等你拿!广州城投地产IP形象设计大赛火热开启!以创意贏未来!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版