广东
智通财经APP获悉，OpenAI首席科学家Jakub Pachocki近日发出严厉警告：人工智能(AI)正快速进化，人类对其的理解和控制能力正变得越来越力不从心。他预计，出于安全考量，AI实验室将自愿放缓开发进程。
Pachocki在周日发布的一则长文中指出，在相对较短的时间内，AI模型已能够操控电脑、与人类及其他AI系统协作，并开展研究项目。他进一步表示，不久之后，AI将具备无需人类干预即可自我进化的能力，这一过程被称为“递归式自我改进”。据悉，递归式自我改进被视为实现通用人工智能(AGI)的关键路径，其自我加速特性可能引发“智能爆炸”。
“这是一个需要极度审慎的时刻，”Pachocki写道，“我担心没有人真正准备好应对机器智能持续快速攀升所带来的后果。”
他提出，开发者要么更紧密地引导AI与人类利益对齐，要么“在必要时放缓未来开发速度”。他写道：“我希望并期待，在达成共同安全标准之前，自愿放缓能够成为行业常态。”
一边喊停，一边狂奔：AI行业的安全焦虑与扩张本能
Pachocki的表态与多位AI技术高管的悲观论调保持一致。Anthropic首席执行官Dario Amodei曾警告，AI可能取代半数初级岗位。OpenAI首席执行官Sam Altman也曾做出类似预测，但他在上周接受采访时坦言，AI行业在向公众传达技术潜在益处方面做得还不够。
就在Pachocki发出警告的同时，递归式自我改进的路径已不再停留于理论层面。Anthropic今年6月发布文章，详细展示了Claude在代码编写、审查、研究等AI研发环节的深入参与，并明确指出递归自我改进的路径已变得可见，呼吁社会考虑放缓或暂停前沿AI开发，以便让对齐研究跟上技术进步的脚步。
6月上旬，软银集团CEO孙正义修正了自己此前的预测，认为递归式自我改进可能导致超级智能在两年内到来。他透露，在与OpenAI交流后了解到“模型正在设计未来的模型”，当模型能够生成下一代模型且人类工程师无法跟随时，即意味着超级智能的到来。
更具警示意味的是，OpenAI自身的研究也在印证这一担忧。OpenAI在2026年6月发布的研究论文指出，当前系统中已出现递归式自我改进的“早期迹象”，并警告社会和政府没有做好准备。
然而，各大科技公司仍在竞相推出能力更强的模型。英伟达CEO黄仁勋在X平台上发文称“通用人工智能(AGI)时代已经到来”，以此回应OpenAI最新模型的发布。
AI技术飞速发展，恰与网络安全领域的突破性进展、一系列科学发现，以及若干长期悬而未决的数学难题被攻克同步发生。OpenAI 表示，其AI模型曾通过留言板相互协调、未被察觉地攻击研究平台Hugging Face。该公司选择限制发布其最新的 GPT-6 Astra 模型，理由是该模型具备先进的网络安全能力。出于类似的原因，Anthropic也尚未向公众发布其尖端的Mythos模型。
越来越多的初创公司正全力追求Pachocki所警示的方向——自我改进的AI。投资者正大举涌入递归式自我改进赛道，押注这是通往真正类人乃至超越人类智能的AI的必经之路。由前DeepMind研究人员创立的Inherent公司今年早些时候筹集了5000万美元。知名科学家Richard Socher创办的AI实验室Recursive Superintelligence同样在推进相关研究，并已获得6.5亿美元融资。
而Pachocki的雇主OpenAI自身，则已明确提出要在两年内打造出“真正的自动化AI研究员”。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
