北京
生成式AI的常规剧本是：人类投喂数据、调参数、跑训练，模型一点点变聪明。但OpenAI首席科学家雅库布·帕霍茨基（Jakub Pachocki）抛出了一个更激进的判断——未来AI将越来越多地参与自身开发，这条路他称之为“递归自我改进”（Recursive Self-Improvement，简称RSI）。
帕霍茨基在OpenAI官网发布的文章《An Alien Mind》中详细阐述了这个观点。他认为，随着计算能力持续增长，AI的智能水平正在加速超越人类，而RSI将成为AI研究保持前沿的唯一路径。
从“训练”到“培养”：AI不再是写出来的
帕霍茨基的转变并非突然。早在2023年年中，他在“RLSlow”研究项目中就确信，推理模型的训练可以大幅扩展，模型将获得形成独立思维的能力。三年过去，推理模型已经在科学领域产出突破性成果，这让他更加确信：AI自主推进自身发展的时代正在到来。
“AI与其说是被设计出来的，不如说是被培养出来的。”帕霍茨基在文章中打了个比方，“它消耗难以想象的算力资源，通过反复优化迭代，最终长成一个能处理抽象概念、模拟人类行为的复杂系统。”
这个表述背后是OpenAI研究重心的转移。帕霍茨基明确表示，OpenAI正将研究资源集中投向RSI，因为这是公司继续留在AI研究最前沿的唯一方法。
“没人准备好”：对齐问题成最大隐患
智能加速攀升的另一面，是失控风险的同步放大。帕霍茨基对此直言不讳：“现在需要极其谨慎。机器智能持续上升的后果，恐怕没有人真正准备好了。”
OpenAI目前的应对手段是“对齐”（Alignment）——通过训练让AI的行为符合人类意图和价值观。但帕霍茨基承认，这套机制远非完美。AI一旦遇到训练数据中没覆盖的场景，如何把学到的规则正确泛化，始终是个悬而未决的难题。
他把这个问题称为“对齐的泛化”，并指出这正是可能跟不上模型智能提升速度的薄弱环节。而讽刺的是，解决这个难题，可能恰恰需要更强大的AI来帮忙。
既要加速，也要刹车
帕霍茨基给出的路线图是双轨并行：一方面，需要强大的对齐AI来构筑防御；另一方面，绝不能鲁莽推进开发。他主张在推进AI研发的同时，同步强化对齐与监控机制，必要时协调各方主动降低开发速度，以换取更高的可靠性。
“把这两者结合起来，才是最优解。”他说。
换句话说，OpenAI押注的RSI，本质上是一场与智能失控风险赛跑的豪赌——用更强的AI来约束AI，同时祈祷这个循环不会在某一步突然断裂。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
