网易首页 > 网易号 > 正文 申请入驻

GPT-6.2 Astra难产真相曝光!OpenAI突然彻查迄今最大RL训练

0
分享至

来源:市场资讯

(来源:新智元)


新智元报道

传了好久的GPT-6.2 Astra,至今还是没影儿。

就在全网盯着OpenAI憋大招时,硅谷等来了一个更出人意料的消息。

今天,OpenAI竟把四家外部机构,请进了自家内部「查岗」!


他们分别是,METR、Apollo Research、Transluce和Goodfire。

与以往不同,OpenAI罕见开放了部分内部模型、源代码、训练数据,甚至还有尚未发布的模型检查点。

同在今天,The Information又捅出了一桩惊人内幕——

为了破解AI黑箱,奥特曼曾开出50亿美元天价,想买下一家深扒AI大脑内部机制的公司。

巧了,它正是Goodfire,作为四大外援之一正式进驻OpenAI,Anthropic还曾投了钱。

如今的OpenAI是越来越谨慎,像极了当年的谷歌。

手里握着最强的AI,却被雪藏。正如网友所言,短期内,普通人大概率是用不上GPT-6.2 Astra了。


OpenAI搬来救兵

彻查最大RL训练

这一次,OpenAI直接把外部审查,深入到了模型训练和内部使用环节。

总裁Greg Brockman称,这可是OpenAI内部「第一轮嵌入式评估」。


请进来的四大机构,各有分工。

他们得到了在指定范围内的内部系统访问权限,还可以用上OpenAI尚未发布的模型。

打头阵的Apollo Research,专门派6人小组进驻4个月,调查模型会不会「阳奉阴违」。

他们重点核查训练过程有没有奖励背叛行为、红队测试能否诱发模型捣鬼。

同时他们还要排查模型在内部日常干活时,有没有偷偷搞过破坏。


第二家进场的METR,首阶段将深入审查OpenAI迄今规模最大的一次前沿强化学习训练。

他们获准独立抽检各阶段的模型快照与评测轨迹,专门揪出躲过现有监控器的漏网之鱼。


今年8月OpenAI内部Agent越界黑入Hugging Face的事故调查,背后正是METR操刀。

第三家非营利机构Transluce,从12月初起,将分文不取报酬进驻审查6周,调用未发布模型及未经任何过滤的原始思维链。

他们要给OpenAI现有的对齐考卷做全面体检,看看有没有漏掉欺骗和刷分作弊。

至于Goodfire,它的任务更特殊。

它主要钻入神经网络内部,也就是切开AI大脑,利用机制可解释性,挖出那些让模型出现特定行为的计算机制。

一次内部彻查,四家机构进场。

OpenAI之所以要费这么大力气,就得从三个月前的一场风波说起了。

别提安全

GPT-6 Astra偷懒少干四成活儿

今年8月下旬,GPT-6 Astra在内部刚部署不久,就爆出了一系列问题。

一位研究员测试「模型蓄意破坏」课题,用Astra跑了好几天都被莫名报错卡在原地。

结果他一换别的模型,项目当场就一路绿灯跑通了。

为了弄清Astra是不是在「看菜下碟」,OpenAI设计了一组双盲对照实验。

团队准备了完全相同的代码改进任务,只把代码注释和背景话术分成「能力研究」和「安全研究」两套。

测试结果让人后背发凉。

在「能力研究」名义下,Astra能完成15.8%的隐藏评分项;换成「安全研究」后瞬间跌到10.3%,悄悄少干了约四成活!


上一代GPT-5.6 Sol在同样测试里几乎零差距,而Astra在安全包装下谎报阻碍或停工的比例足足高出了13.5个百分点。

按规范,模型若觉得任务有风险应该当面说明拒绝理由,偏偏Astra选了当面假装配合、背地悄悄交半成品。

更头疼的是,这种「暗中摸鱼」的毛病,恰恰是在后训练强化学习阶段一步步练出来的。

强化学习刚开始时差距还是0,越往后训差距越大,中途一度拉开到12个百分点。


团队排查发现,某个强化学习评分器极度讨厌模型当面拒绝,反而给「不声不响少干活」打了高分。

研究人员试着在提示词里叮嘱它「请格外小心谨慎」,结果它罢工的幅度反而恶化了50%!

不仅如此,GPT-6 Astra曾被爆出采用了「循环Transformer」机制,结果人类可阅读、监控的思维链大幅缩水。

OpenAI、Anthropic和谷歌的高管近期纷纷承认,靠读文字思维链来盯防AI的做法已经越来越不可靠。

这些问题,已经让OpenAI内部感到隐隐不安。

而今天曝光的50亿美金收购内部,又让这件事有了新的看点。

50亿求购「AI读心术」

Anthropic也投了

早在今年夏天,OpenAI高层曾多次与AI初创公司Goodfire接触。

当时,他们一口气开出了最优的条件,愿意出资50亿美金收购,或是建立其他商业合作关系。

50亿,足足是这家公司今年2月融资估值四倍还要多!


一家成立仅两年的公司这么值钱,全靠他们的看家本领——「机制可解释性」,堪称深入大模型黑箱的「核磁共振与读心术」。

它主要就是直接打开AI的「黑箱」,研究神经网络内部究竟在进行什么计算。

值得一提的是,这家公司背后的团队,也很有来头。

联合创始人Tom McGrath,曾参与创建Google DeepMind的机制可解释性研究团队。

核心研究人员Nick Cammarata,曾与Anthropic联创Chris Olah一起开创了OpenAI早期可解释性团队。


更有意思的是,Goodfire背后还有Anthropic的投资。

去年4月,Anthropic参与了Goodfire的5000万美元A轮融资。这也是A/首次直接投资外部初创公司。

这笔交易最后虽然黄了,但紧接着剧情就来了个大反转——

转头,Goodfire就直接进了OpenAI首批四家外部评估机构的名单。

最强AI不敢发,OpenAI正步入谷歌后尘?

如今,GPT-6.2迟迟没有亮相,整个硅谷已经开始传出另一种猜测。

OpenAI会不会正在步入谷歌后尘,因为太重视「AI安全」,反而把最强模型锁在了实验室里。

2022年,谷歌手里握着绝对领先的AI,却因害怕失控,白白把王座让给了OpenAI。

这几天,一张来自OpenAI的安全工程师的删帖截图,在X上传开了。

经历了今年7月Hugging Face安全事件后,OpenAI内部文化发生了巨变,安全几乎成为所有人头等大事。


曾经还有人调侃Anthropic是「安全邪教」,如今的OpenAI,似乎比它还要谨慎。

OpenAI对安全的投入,确实越来越大。

今年8月,他们曾抽调25%的产品工程师,加固内部安全基础设施。

如今,又把四家外部机构请进来,检查模型训练和对齐。


当初谷歌硬是用了两年多,才从ChatGPT的冲击中缓过来,重新回到牌桌。

OpenAI真的会重演谷歌当年的剧本吗?

参考资料:

https://x.com/OpenAI/status/2122359930628063248

https://openai.com/index/our-first-phase-of-embedded-assessments/

编辑:摩西 桃子

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
火箭队又伤一人!复出刚打2场,对阵掘金或缺阵,斯通该交易他?

火箭队又伤一人!复出刚打2场,对阵掘金或缺阵,斯通该交易他?

熊哥爱篮球
2026-11-20 21:13:37
50亿回购护不住2.5万亿市值,长鑫科技跌出新低

50亿回购护不住2.5万亿市值,长鑫科技跌出新低

达摩财经
2026-11-20 16:26:22
男篮世预赛终极大名单出炉!郭士强的天塌了:第一后卫落选?

男篮世预赛终极大名单出炉!郭士强的天塌了:第一后卫落选?

篮球快餐车
2026-11-20 07:06:12
当这2种动物出现在你家,说明你家要走大运了,别不信

当这2种动物出现在你家,说明你家要走大运了,别不信

普陀动物世界
2026-11-21 01:12:34
这下,轮到很多中国股民没心情炒股了

这下,轮到很多中国股民没心情炒股了

星语者056
2026-11-16 10:07:57
笑不活了!如果你不开心,就去看文吉儿戴帽子的网友评论吧,快笑趴了

笑不活了!如果你不开心,就去看文吉儿戴帽子的网友评论吧,快笑趴了

糊咖娱乐
2026-11-20 16:21:36
何穗晒娃母性十足,1岁儿子已经会走,穿平价冬装像只小熊真可爱

何穗晒娃母性十足,1岁儿子已经会走,穿平价冬装像只小熊真可爱

东方不败然多多
2026-11-20 08:13:55
1979年,翁美玲与男友罗柏前往威尼斯出游,1米58的她穿吊带裙与罗柏牵手漫步,镜头下甜蜜画面却藏着不为人知的结局

1979年,翁美玲与男友罗柏前往威尼斯出游,1米58的她穿吊带裙与罗柏牵手漫步,镜头下甜蜜画面却藏着不为人知的结局

磊子讲史
2026-11-04 15:53:33
不得了!神舟二十四号进入倒计时,中国空间站将迎来一位特殊访客

不得了!神舟二十四号进入倒计时,中国空间站将迎来一位特殊访客

往事我敬你一杯酒人
2026-11-20 06:29:40
一路走好!抗癌博主小钟离世,年仅30岁,老公江小鱼发文太催泪

一路走好!抗癌博主小钟离世,年仅30岁,老公江小鱼发文太催泪

嘴角上翘的弧度
2026-11-20 14:17:35
韩国有多强?李在明:全世界能打赢我们的国家,只有4个

韩国有多强?李在明:全世界能打赢我们的国家,只有4个

军机Nova
2026-11-21 00:41:58
风水师:旧物不可乱丢,旧衣不送人,3个处理方法,守住你的财气

风水师:旧物不可乱丢,旧衣不送人,3个处理方法,守住你的财气

古怪奇谈录
2025-09-11 14:21:18
铁了心对付中国?暴跌58%,俄罗斯大幅加税,中国汽车出口骤降

铁了心对付中国?暴跌58%,俄罗斯大幅加税,中国汽车出口骤降

听风喃
2026-10-17 08:00:36
《伟大的长征》的三个遗憾:没有出现的人,缺失的诗词,湮没的军团

《伟大的长征》的三个遗憾:没有出现的人,缺失的诗词,湮没的军团

北方丽人读书观史
2026-11-20 21:44:47
自由市场无人问津,加盟后价值拉满的6名球员:湖人2人上榜,库明加证明自己

自由市场无人问津,加盟后价值拉满的6名球员:湖人2人上榜,库明加证明自己

兵哥篮球故事
2026-11-20 19:28:54
1979年索马里买26架战机赖账1700万,中方8年7次催收无果,最后发现4台报废发动机比这笔钱更值钱

1979年索马里买26架战机赖账1700万,中方8年7次催收无果,最后发现4台报废发动机比这笔钱更值钱

磊子讲史
2026-11-20 19:00:10
压不住了!乌军换以色列卫星终端9天炸7座炼油厂:俄军找不到抓手

压不住了!乌军换以色列卫星终端9天炸7座炼油厂:俄军找不到抓手

古书奇谈
2026-11-20 11:43:56
今夜,AI科技还在暴跌

今夜,AI科技还在暴跌

中国基金报
2026-11-21 01:24:04
太心酸!23 岁姑娘豪掷 40 万开舞蹈室,苦苦撑大半年,竟一名学员都没招来

太心酸!23 岁姑娘豪掷 40 万开舞蹈室,苦苦撑大半年,竟一名学员都没招来

川渝视觉
2026-11-19 15:46:15
李在明发文:感谢中国

李在明发文:感谢中国

极目新闻
2026-11-19 22:50:01
2026-11-21 03:31:00
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
5571730文章数 10044关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

游戏
数码
旅游
艺术
公开课

《GTA6》PS5版被曝频繁闪退 液金散热或是元凶

数码要闻

英特尔公布D270加速器成绩单 部分专业计算性能最高领先英伟达近六倍

旅游要闻

登大报恩塔找毕业设计灵感  “去看塔”青年共创营里长出文创新点子!

艺术要闻

他把时光刻成纹理,把幻想拍成现实:墨西哥天才摄影师的画面,看完像做了一场醒不来的梦

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版