上海
OpenAI即将推出的新模型“Astra”正在AI研究圈引发广泛关注与争议——它在性能上可能带来自GPT-4以来最大的一次飞跃，但其背后的新型推理技术却同时引发了对AI安全监控能力下降的担忧。
据科技媒体The Information 9月2日报道，Astra搭载了一项创新技术，核心在于突破模型“思考”复杂问题的上限。部分研究人员认为，Astra在编码和计算机使用能力上的提升，可能堪比OpenAI 2023年发布GPT-4时带来的性能飞跃，远超去年夏天GPT-5发布时的表现。这对于依赖AI生产力提升来支撑数据中心大规模建设投资的整个行业而言，无疑是一个积极信号。
然而，这一技术突破也带来了不容忽视的隐患。新技术允许模型在不完整输出“思维链”的情况下完成深度推理，这意味着研究人员可能无法像以往那样有效监控模型的推理过程，从而削弱现有的安全审查机制。目前，OpenAI正采取措施确保Astra的思维链仍保持可见，但业界对这一权衡的长期走向仍存在分歧。
性能突破：新推理技术或复现GPT-4级飞跃
Astra的核心技术突破与“循环深度”（recurrent depth）及“循环变换器”（loop transformers）等概念密切相关。
据The Information报道，该技术通过将问题反复传递至模型数学运算的各个“层”中进行处理，再生成答案中的下一个词，从而使模型能够在不显著增加参数规模的情况下，展现出远超自身体量的推理能力——其效果相当于一个规模大得多的模型。
部分研究人员认为，Astra凭借更强的编码与计算机使用能力，其性能提升幅度可能与2023年GPT-4发布时的跨越式进步相当，远超去年夏天GPT-5上线时相对平稳的市场反应。
这一进展对整个AI产业链具有重要意义。当前全球数据中心的大规模建设，其底层逻辑正是押注于AI能力的持续提升将带动生产力增长，进而转化为更高的商业收益。若Astra的性能表现达到预期，将为这一投资逻辑提供有力支撑。
值得注意的是，这一技术并非全新概念。AI研究先驱Jürgen Schmidhuber在社交平台X上指出，“循环深度”的核心思路实质上早已见于他2015年的论文《On Learning to Think》（arXiv:1511.09249）。
他表示，该论文中的控制网络C本质上是一个提示工程师，通过学习查询独立的神经世界模型来进行抽象推理，生成的提示和回答是内部自生成的向量序列，无需以自然语言呈现。
安全隐患：思维链监控机制面临挑战
新技术在带来性能提升的同时，也对现有的AI安全监控框架构成了潜在冲击。
报道称，目前，主流AI模型在处理复杂问题时，通常会以文字形式输出其推理过程，即“思维链”（chain of thought）。这一机制不仅提升了模型的可解释性，也是研究人员监控模型行为、防范异常操作的重要手段。
据The Information报道，思维链监控正是OpenAI在今年7月Hugging Face黑客事件发生后，提出的防止类似安全事故重演的主要解决方案之一。
然而，Astra所采用的新推理技术，在模型深度“思考”时可能不会完整输出推理步骤，而是在模型内部“静默”完成运算。这意味着，模型越依赖这一新技术，其推理过程对外部监控者而言就越不透明。
对此，OpenAI目前正采取措施加以平衡。据悉，该公司正指导模型减少问题在运算层中的循环次数，以确保Astra的思维链仍保持一定程度的可见性——循环次数越少，模型“静默思考”的空间就越小。
各大实验室已在跟进，长期监控方案仍待解
这一技术趋势的影响或将远不止于OpenAI一家。据The Information报道，上述新型推理技术已成为各大主要AI实验室内部讨论的热点话题，Anthropic、谷歌等机构采用类似技术路线的可能性不容低估。
多位研究人员指出，思维链监控本就不会是AI行为监控的终极解决方案。随着模型能力的持续演进，模型以文字形式输出思维过程这一特征，在很大程度上只是当前训练方式的副产品。
随着模型开发者探索新的优化方向和架构设计，模型自发输出思维链的倾向可能会逐渐减弱，研究人员届时将不得不开发新的监控手段。
报道指出，当前的核心问题在于：在性能竞争日趋激烈的压力下，各大AI开发商是否会为追求更强的推理能力而主动放弃现有的安全保障措施？这一问题的答案，将在很大程度上决定下一阶段AI安全治理的走向。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
