网易首页 > 网易号 > 正文 申请入驻

奥创纪元:Anthropic 警告 AI 系统或将很快能构建自己的继任者

0
分享至

Anthropic 表示,AI 行业正迈向能够自主构建未来几代前沿模型的系统。



几十年来,我们一直在电影和流行文化中看到这样的情景;如今看来,科幻已不再是虚构。根据 Anthropic 发布的新研究,人工智能系统正开始帮助构建下一代 AI 模型。该公司表示,这一趋势最终可能导致 AI 系统在极少人类干预的情况下自行设计和改进自己。

Anthropic 在其研究机构 Anthropic Institute 发布的一篇新博文中概述了这一警告。该公司称,行业迈向“递归式自我改进”的速度可能比许多政府和机构预期的更快。

这一概念描述的是一种未来图景:一个 AI 模型开发出自身的下一个版本。目前,研究人员仍在指导这一过程。但 Anthropic 表示,在公司内部,AI 已经在编程、调试和技术研究方面承担了越来越大的份额。

AI 开发加速

Anthropic 援引内部数据,展示了 AI 工具如今对软件工程工作的贡献速度有多快。该公司称,截至 2026 年 5 月,Claude 生成的代码已占合并到 Anthropic 系统中代码的 80% 以上。而在 2025 年初 Claude Code 推出之前,这个数字还停留在低个位数。

我们的内部数据显示,Claude 正在加速 AI 开发——这可能是一条通往递归式自我改进,即 AI 自主构建更强大继任者的路径。
它的发展速度比我们想象的还要快,其影响值得更多关注。
— Anthropic (@AnthropicAI) 2026 年 6 月 4 日

该公司还表示,随着这些变化,工程生产力也大幅提升。Anthropic 工程师现在每天合并的代码量大约是 2024 年的八倍。

Anthropic 联合创始人兼政策主管 Jack Clark 表示,公司希望立法者和机构了解接下来可能发生的情况。“我们一直发现,最好的做法就是让这个概念社会化,让大家对即将到来的事情有所认识,”Clark 在一份新闻稿中说道。

Clark 补充说,AI 的进步似乎正在加速,而非放缓。他称,这一转变可能推动医学、科学和其他技术领域取得重大进展。

基准测试快速进步

Anthropic 还重点介绍了跟踪 AI 在软件工程和科研任务中表现的公开基准测试。

该公司表示,AI 系统现在能在更长时间内、无需人工干预的情况下完成日益复杂的任务。Anthropic 声称,模型能够可靠处理的任务时长大约每四个月翻一番。

据该公司称,2024 年初,Claude Opus 3 完成的任务仅持续几分钟。一年后,Claude Sonnet 3.7 已能处理约需 90 分钟的工作。Anthropic 表示,后来的 Claude Opus 4.6 已能处理长达 12 小时的任务。

该公司还引用了 SWE-bench 基准,这是一项测试 AI 能否修复开源项目中真实代码问题的软件工程基准。Anthropic 称,前沿模型在该基准上的得分在两年内从较低水平提升到了接近饱和。

另一项基准 CORE-Bench,衡量 AI 能否复现已发表的科学研究成果。Anthropic 称,AI 系统从 2024 年大约 20% 的复现成功率,提高到约 15 个月后近乎完美的表现。

风险与监督

Anthropic 强调,当前系统与完全自主的 AI 开发之间仍存在巨大差距。该公司表示,人类仍继续定义目标、评判结果,并决定哪些研究方向最为重要。

尽管如此,该公司警告称,如果监督工具无法跟上步伐,更强大的自主系统可能带来新的风险。

“作为组织,并最终可能作为整个社会,我们需要找到验证和核实”AI 生成工作的工具,Clark 说。他补充说,未来的系统必须始终与人类目标和公共利益保持一致。

Anthropic 计划在未来几个月与美国立法者讨论这一问题。该公司表示,政府应做好准备,应对 AI 系统最终可能在几乎没有人类直接参与的情况下,帮助创造出更强大继任者的可能性。

如果朋友们喜欢,敬请关注“知新了了”!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
倒闭8.4万家!无数中年人的“庇护所”,如今为何跌下神坛?

倒闭8.4万家!无数中年人的“庇护所”,如今为何跌下神坛?

三农雷哥
2026-10-24 14:59:15
54年来头一遭,打破美国总统常规,特朗普在深圳究竟看到了什么?

54年来头一遭,打破美国总统常规,特朗普在深圳究竟看到了什么?

影孖看世界
2026-11-19 23:36:48
40万人等待直播,他却心脏骤停在旅馆……韩国传奇学霸拟“自证清白”当天缺席,此前因从差生逆袭满分优等生引关注,被指用AI作弊

40万人等待直播,他却心脏骤停在旅馆……韩国传奇学霸拟“自证清白”当天缺席,此前因从差生逆袭满分优等生引关注,被指用AI作弊

都市快报橙柿互动
2026-11-20 08:17:01
1995年,49岁的特朗普来到香港,怀中抱着一位神秘女人,她是谁?

1995年,49岁的特朗普来到香港,怀中抱着一位神秘女人,她是谁?

文史达观
2025-01-26 06:45:03
绝境翻盘!卞相壹顶住重压逆转取胜,斩获三星杯桂冠,李钦诚随手战败

绝境翻盘!卞相壹顶住重压逆转取胜,斩获三星杯桂冠,李钦诚随手战败

L76号
2026-11-20 14:47:33
比燃油车销量下滑还恐怖的是:中国正在失控的汽车价格战持续升级

比燃油车销量下滑还恐怖的是:中国正在失控的汽车价格战持续升级

铭记历史呀
2026-11-20 00:38:11
布泽尔以100%命中率轰16+6+5!联盟历史首位青少年球员

布泽尔以100%命中率轰16+6+5!联盟历史首位青少年球员

北青网-北京青年报
2026-11-20 20:47:02
浙江宁波一女子在老婆大人零食店,花32.54元买到发黑变质鸭舌,店家:确有其事,愿意赔偿500元,当事人:主张赔偿1000元

浙江宁波一女子在老婆大人零食店,花32.54元买到发黑变质鸭舌,店家:确有其事,愿意赔偿500元,当事人:主张赔偿1000元

台州交通广播
2026-11-20 00:28:00
面对铺天盖地的指控,高市早苗一气之下,在网上说了句中国的名言

面对铺天盖地的指控,高市早苗一气之下,在网上说了句中国的名言

梦在深巷aqa
2026-08-27 07:53:27
女人坐了28年牢,出狱去办证,民警一查系统,当场愣了

女人坐了28年牢,出狱去办证,民警一查系统,当场愣了

卡西莫多的故事
2025-10-30 11:33:46
降息,再次落空

降息,再次落空

大川东山再起
2026-11-20 16:02:32
何穗晒娃母性十足,1岁儿子已经会走,穿平价冬装像只小熊真可爱

何穗晒娃母性十足,1岁儿子已经会走,穿平价冬装像只小熊真可爱

东方不败然多多
2026-11-20 08:13:55
3天扳倒黄仁勋,鲁比奥不留余地,交出投名状,开始架空特朗普

3天扳倒黄仁勋,鲁比奥不留余地,交出投名状,开始架空特朗普

莫地方
2026-11-20 22:04:18
声援巴勒斯坦抗议者遭打压,美国最大穆斯林民权组织被佛州列为恐怖组织,机构停摆并起诉州政府官员

声援巴勒斯坦抗议者遭打压,美国最大穆斯林民权组织被佛州列为恐怖组织,机构停摆并起诉州政府官员

14号观星辰
2026-11-19 17:51:16
郑丽文久旱逢甘霖!蓝营全面开花 传来三大关键利好 赵少康算计落空

郑丽文久旱逢甘霖!蓝营全面开花 传来三大关键利好 赵少康算计落空

王姐懒人家常菜
2026-11-20 15:23:20
悲催!网传江苏经营20余年企业老板群内卖惨,称下月发不出工资,劝说员工自行离职另寻出路

悲催!网传江苏经营20余年企业老板群内卖惨,称下月发不出工资,劝说员工自行离职另寻出路

火山詩话
2026-11-19 19:00:24
宇航员登月回归后精神失常,死前坦言:人类不应踏足远方

宇航员登月回归后精神失常,死前坦言:人类不应踏足远方

清茶浅谈
2024-12-20 22:30:46
4岁儿子被拐3年后,母亲上街被畸形儿乞丐拉住,看到他指甲后愣住

4岁儿子被拐3年后,母亲上街被畸形儿乞丐拉住,看到他指甲后愣住

罪案洞察者
2025-10-13 11:17:44
深圳APEC:各国领导人都坐什么飞机来中国?

深圳APEC:各国领导人都坐什么飞机来中国?

航空笔记
2026-11-19 16:19:35
苹果紧急发布双版本更新!建议升级

苹果紧急发布双版本更新!建议升级

花果科技
2026-11-20 10:46:55
2026-11-20 23:23:00
知新了了
知新了了
专注于新知、科普的传播
6828文章数 2299关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

"花坛藏尸案"凶手不服死刑判决 已提起上诉

头条要闻

"花坛藏尸案"凶手不服死刑判决 已提起上诉

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

手机
艺术
本地
时尚
公开课

手机要闻

Counterpoint:拉美Q3手机出货量同比降24%

艺术要闻

2026 研究与超越——中国小幅油画作品双年展 油画选(二)

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

《后会友期》的癫,还得她们治

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版