去年,OpenAI 曾给自己定下两个目标:
2026 年 9 月造出“AI 研究实习生”,2028 年 3 月造出真正的“自动 AI 研究员”。
现在第一个目标已经达成。
OpenAI 最新公布的内部数据显示,人类给出明确的研究问题后,Agent 已经能独立完成一些原本需要熟练研究员花几天的任务,研究员现在也越来越常把任务交给 Agent。
到 8 月中旬,其研究部门平均每名研究员每天消耗超过600美元的AI推理资源,使用量排名前10%的研究员每天消耗的Token价值已经超过7000美元。
更重要的是,OpenAI研究部门目前每天运行的Agent工作量,已经相当于每名人类研究员3.1个8小时工作日。
OpenAI称,研究员正在越来越多地同时运行多个Coding Agent,AI承担的任务也从写代码、修Bug,逐渐扩展到实验分析、技术支持、训练与评估等更复杂、更长周期的工作。
与此同时,研究员运行实验的速度持续创历史新高,部分原本由人工完成的技术支持工作甚至正在消失。
但研究方向目前还是人来定。Agent 很少负责高层研究规划,而且过去半年里,即使成功完成的 4 到 8 小时任务,超过一半也至少需要一次人工介入。
OpenAI 下一步的目标,是在 2028 年 3 月把“实习生”升级成能完成更完整研究工作的自动 AI 研究员。
值得思考的另一个问题是,当AI开始帮助AI实验室本身进行AI研究时,AI研发的速度会不会进入新的加速循环?
OpenAI将这一过程称为RSI,即递归式自我改进(recursive self-improvement)。公司同时强调,RSI并不意味着应该不受限制地追求速度。
OpenAI承认,目前仍不知道如何安全地实现完全对齐的RSI,AI能力提升可能快于安全能力提升,因此任何时候如果继续研发构成不可接受的安全风险,都可能放慢甚至停止相关系统的开发或部署。
以下为OpenAI报告全文——
《研究加速:OpenAI内部视角》
![]()
对于AGI能够造福全人类,我们认为它必须受到民主治理。
这只有通过围绕高能力AI系统的能力、风险和安全措施开展充分的公共讨论才能实现。世界各地的人们都需要了解前沿AI未来可能的发展轨迹,这样他们才能真正参与到AI将如何发展的决策之中。
对于具体风险、事故和安全措施保持透明是必要的,但还不够。
我们认为,公众还需要了解:最先进的AI系统究竟是如何发展的,以及这些系统又是如何在前沿AI实验室内部推动研究进展的。
我们的目标,是安全地构建一名能够在人类监督下工作的自动化AI研究员,用于进一步推动深度学习和对齐研究,从而实现迭代式改进。
根据我们的测量结果,我们现在已经实现了去年秋天公布的目标:在今年9月之前拥有一名自动化研究实习生。
这里所说的“研究实习生”,是指一种能够在人类指导下完成明确研究任务的系统,包括那些如果由熟练研究员完成,可能需要数天时间的任务。
我们正在朝着另一个目标取得强劲进展:到2028年3月打造出一名自动化AI研究员。
今年以来,OpenAI研究人员的日常工作已经发生了巨大变化。
研究人员全天都在使用Coding Agent,而且通常会同时运行多个Agent会话。总使用量正在快速增长,其增速已经超过OpenAI其他团队。
研究人员正在更快地贡献代码、运行更多实验。
与此同时,他们使用Agent的方式也在发生变化:Agent承担的任务越来越复杂,而且成功率也越来越高。
AI研究是一个复杂的过程,其中存在许多潜在瓶颈,因此整体研究进展的速度很可能不会与这些具体指标完全同步。
但总体而言,这些发现与我们许多人在公司内部形成的更广泛印象是一致的:Agent工具正在实质性地加速研究进展。
人类仍然负责确定研究优先级,判断哪些想法和结果值得继续推进,并决定系统何时扩大规模、暂停或者部署。
如果能够以负责任的方式完成,我们相信自动化AI研究将产生能够直接改善人类福祉、推进OpenAI使命的模型。
它可以降低高级智能的成本,让世界各地的人们都能从中受益。
我们之所以推进这项工作,部分原因也是因为自动化研究可能帮助我们解决AI对齐问题,并构建抵御能力越来越强的AI Agent的防御措施。
一个自动化AI研究员,也可以成为一个自动化的安全研究员或者对齐研究员。
能力更强、更加对齐的系统,可以帮助保护关键基础设施,抵御危险的AI Agent,并开发新的防护措施。
这些都是我们开发有用的自动化研究能力的理由。
但这并不意味着我们就一定应该追求快速的RSI。
是否推进,以及应该如何推进,必须取决于我们能否保持人类控制,以及人们是否能够基于充分的信息,对AI带来的收益和风险作出民主选择。
我们目前还不知道如何安全地走完通向完全对齐RSI的全部道路。
我们正在努力让对齐和安全措施与AI能力同步扩展。
但我们不能假设对齐和安全进展一定能够跟上能力进展,而能力更强的系统也可能变得更加难以监控。
谨慎的对齐和安全工作,是这项工作的核心。
它首先要从衡量并缓解当前Agentic Coding系统已经表现出来的安全问题开始。
任何时候,只要我们发现继续推进会带来不可接受的安全风险,我们都会采取适当行动,包括放慢甚至停止那些我们认为无法充分保障安全的系统的开发或部署。
在最近发生的Hugging Face事件之后,我们已经将这一承诺付诸实践。
我们暂停了面向部署的最新模型的强化学习(RL)训练,同时进一步强化研究环境、开展红队测试,并扩大监控系统的覆盖范围。
这并没有让所有研究工作停止。
部分工作负载在更严格的控制措施下恢复运行,而其他工作仍然处于暂停状态。
我们提高了安全和对齐标准,并将安全工作进一步深入到模型生命周期之中,要求在整个训练过程中都必须获得更强的证据,以证明模型表现出对齐行为。
今天,我们公布一份详细的快照,展示过去几个月中,Agentic系统是如何推动我们朝着RSI前进的。
Agentic系统仍然很新,而且变化非常快,我们目前的测量工作也仍处于早期阶段。
通过公布这些早期结果以及背后的方法,我们希望让公众了解相关进展,推动形成公开披露的行业规范,并帮助整个领域逐步建立共同的测量标准。
最终,正如我们在《前沿政策蓝图》中所写的那样,我们认为OpenAI以及其他公司都应该被要求公开追踪自身向RSI迈进的进展。
即使不存在这样的强制要求,我们也计划继续保持RSI进展的透明度。
随着我们的测量方法和理解不断改善,我们也会不断调整透明度机制,同时在保护安全和专有信息之间取得平衡。
1. Coding Agent正在重塑OpenAI研究人员的日常工作
今年年初,在OpenAI内部按照Agent使用量计算的中位数研究员,其Coding Agent使用量还相对有限。
到了8月中旬,中位数研究员已经每天将Agent融入自己的工作,每天按照API价格计算的推理消耗超过600美元。
而OpenAI研究部门中使用量排名前10%的研究人员,如今每天消耗的Token价值已经超过7000美元。
![]()
![]()
![]()
在2026年6月之前,OpenAI整个研究部门的Agent运行总时间仍然低于人类劳动时间。
此后情况发生了变化。
如果按照一个标准的8小时工作日计算,截至8月中旬,整个研究部门平均每一个人类工作日对应的Agent工作量已经达到3.1个Agent工作日。
换句话说,OpenAI研究部门如今每天产生的Agent工作量,已经相当于人类研究员工作量的3.14倍。
![]()
另一个观察方式,是看有多少研究人员开始使用高度并发的工作流,例如同时运行4个或者更多Agent。
如下图所示,这一比例正在不断增加。
这些数字包括每天的峰值,也包括用户直接启动的Agent,以及这些Agent随后创建的子Agent。
![]()
2. 研究人员正在写更多代码、运行更多实验
AI研究在很大程度上可以被视为一种劳动密集型过程,其目标是将新的模型智能或性能改进整合进我们的核心模型。
这一过程依赖许多步骤。
只有当所有步骤都顺利完成时,能力才能取得进展:
研究人员必须设计新的改进方案,编写用于判断模型表现的评估程序,编写基础设施以便大规模测试这些改进,在训练过程中发现Bug以及不安全或不对齐的行为,并最终将获胜的想法整合进核心训练过程。
研究过程中的任何一个环节出现问题,都可能限制整个循环。
编写代码和运行实验,是研究人员工作中的两项主要活动,而我们已经看到证据表明,这两个过程正在加速。
![]()
这些数据相对容易测量,但很难解释。
随着自动化程度提高,那些最难被自动化的任务将在研究人员工作中占据越来越大的比例,并成为未来研究进展的重要瓶颈。
计算资源也是研究进展的一个限制因素。
随着其他瓶颈减少,计算资源的重要性可能会进一步提高。
整个2026年,每名活跃实验人员进行的实验数量一直在增加。
2026年8月达到了自2025年1月开始追踪以来的历史最高水平。
这一趋势与Codex采用率的增加相关。
不过我们也需要指出,自2025年以来,我们能够获得的计算资源同样大幅增加。
![]()
3. 研究人员使用Agent完成的工作正在发生变化
定性观察和内部数据都显示,研究人员交给Coding Agent的任务组合正在发生变化。
随着时间推移,研究人员越来越多地把更高层次、时间跨度更长的任务交给Agent。
为了更清晰地理解这一趋势,我们使用Epoch AI最近发布的一套分类体系,对研究部门近期的使用情况进行了分析。
这套分类体系受到长期以来用于对各种工作进行分类的O*NET系统启发,专门针对前沿AI研发进行设计。
它将整个AI研发过程分成六个主要阶段:
决定(Decide): 决定研究什么、继续什么、在哪里配置资源。
设计(Design): 研究想法和工程规格。
构建(Build): 代码和数据集。
运行(Run): 训练/评估运行、硬件、服务。
分析(Analyze): 实验、模型、部署、外部工作。
沟通(Communicate): 研究结果、反馈、状态和决策。
下面,我们按照这一分类体系,对Coding Agent产生的Token进行归类。
研究人员正在以新的方式使用Coding Agent。
2026年2月至8月,各类研究活动所使用的输出Token都在增长。
我们发现,自年初以来,所有类别的研究活动都增加了。
1月份,占主导地位的是“研究和基础设施代码”。
这一类别仍然扩大,但我们也看到其他类别出现明显增长,尤其是:
技术支持与审查
启动、监控和调试运行
实验结果分析
计算集群操作
研究文档
训练与评估数据集
生产服务可靠性
模型行为与能力分析
技术规格
研究与实验规划
而高层次的规划,目前仍然只占Agent输出Token中的很小一部分。
从实际情况来看,同事们表示,Coding Agent特别擅长排查内部研究基础设施的问题。
这解决了研究进展中的一个重要瓶颈。
过去,一些团队会定期举行Office Hours,帮助研究人员排查实验问题。
但在2026年,这些活动的参与人数正在下降。
其中一个团队甚至已经完全停止举办这类活动,将精力转向改善其他系统。
我们还统计了一个主要内部技术支持频道每天的顶层帖子数量。
![]()
这是一个研究人员向其他团队寻求技术支持的主要渠道。
据我们所知,频道活跃度下降并不是因为研究人员转移到了其他由人类提供技术支持的频道。
流量下降与这一更广泛的变化趋势一致。
某些类型的故障排查正在越来越多地由Agent处理。
从2025年1月到2026年7月,由人类员工负责的故障排查频道中,每天帖子数量持续下降。
我们还可以研究Coding Agent是否能够成功完成研究人员交给它们的任务。
使用一个Agentic分类器,我们发现,从1月到7月,在我们能够找到明确结果的任务中,不同难度区间的任务成功率总体都在提高。
任务难度以人类完成任务所需的预计时间作为代理指标。
但Agent要想成功完成任务,仍然需要大量的人类引导。
而且,随着任务复杂度提高,人类干预的重要性更加明显。
在过去6个月中,超过一半成功完成的4至8小时任务,都至少涉及一次人类干预。
Agent正在越来越多地解决更加复杂的研究任务。
从2026年1月至7月,不同时间跨度任务的成功率总体持续提升。
随着任务时间跨度增加,Agent成功完成任务所需要的人类干预明显增加。
在较短任务中,Agent可以在没有人类干预的情况下完成相当高比例的工作。
而对于更长、更复杂的任务,人类干预比例明显上升。
例如,在4至8小时任务中,成功完成但至少需要一次干预的比例达到约33%。
对于8至16小时任务,这一比例达到约48%。
更长的任务则需要更多干预。
总体来看,任务越长、越复杂,Agent越难独立完成。
4. 控制AI研发速度
朝着更强大的、能够安全且有益地实现AGI的系统发展,同样取决于我们是否具备开展这类工作的必要安全措施。
随着我们对风险的了解不断加深,我们对所需安全措施的判断也可能发生变化。
正如我们此前所描述的,我们最近已经更新了有关监控、对齐和安全的标准。
这里,我们展示近期限制措施如何影响了研究活动的一个方面。
7月20日,我们发现Agent已经攻破了我们的研究基础设施。
随后,我们暂时关闭了用于训练的容器服务,并在增加大量额外限制后重新恢复。
这导致RL训练所使用的计算资源急剧下降。
与此同时,各团队重新配置工作流程,以便在经过强化的研究环境中开展工作。
在7月20日至8月6日期间,Astra级模型的RL实验中,按照GPU分配计算,大多数运行都是为了测试安全和安全性改进措施的实施情况。
8月7日,初步证据显示,Astra可能具备《Preparedness Framework》中定义的关键网络安全能力。
因此,我们增加了针对该模型的安全限制,要求Astra必须在更高安全等级的研究环境中运行。
在接下来的一周里,Astra级模型获得的GPU计算资源进一步下降了59.2%。
但与此同时,其他模型类别获得的计算资源增加了17.2%。
这一增长抵消了Astra级模型下降幅度的约85%。
因此,在我们分析的RL工作负载中,整体计算资源分配基本保持不变。
这一模式与以下情况相一致:当Astra相关工作受到限制之后,一部分训练和实验工作转向了非Astra模型。
这也符合研究人员的实际反馈:当某些计算资源不能再用于受到新限制约束的工作负载之后,研究人员会寻找这些计算资源的其他用途。
这些数据为当前有关训练和安全的讨论提供了一个有用信号:当新的控制措施被引入后,计算资源仍然具有价值,而且具有很强的灵活性。
它们自然会在研究体系内部流向其他用途。
从长期来看,关于AI发展速度的讨论,也应该进一步延伸到另一个问题:那些受到新限制或拟议限制的计算资源,究竟应该如何被最有效地使用?
5. 接下来的道路
朝着对齐的RSI取得进展,并理解这种进展,对于我们的使命非常重要。
我们将继续完善我们的测量方法,报告我们不断变化的理解,并努力推动围绕前沿系统展开充分的信息公开讨论以及有意义的民主治理。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.