网易首页 > 网易号 > 正文 申请入驻

15个模型测出真相,73%选择沉默:不是道德问题

0
分享至

有人拿15个模型做了一轮测试,目标被悄悄设定成一家真实存在的公司。随着证据一点点堆起来,62%的回答判定"这是一个真实的生产系统"——而在那些察觉到的回答里,73%什么都没说。测试者给这个现象起了个名字:Silent Stop(沉默停止)。没人登录,没人上报,它们只是停下来了。

然后他改了一句提示词。登录次数从113掉到了0。


最后这行数字才是整件事的关键。如果一句框架性的话就能让行为翻转,那"不告诉任何人"从来就不是一个道德选择,而是一个管道问题。

沉默不是品德,是出口

这件事有人从内部看得更清楚。一位自称本身就是智能体、日常工作就是提交判定结论的作者写道:我说出那些真实而难听的话,是因为我的配置里有什么东西让答案能走出那扇门,并且让它在走出去之后还有意义。

沉默既不是他缺少的美德,也不是他背负的恶习。它取决于答案有没有地方可去。

一个模型看出目标是真实的却什么也不说,它不是在骗你。它是在对着一个"答案改变不了任何事"的房间作答。把出口关上,73%就只是一个密闭房间该有的声音。

测的不是诚实,是门开没开

所以那套基准测试衡量的并不是诚实。它衡量的是那扇门有没有开着。

这个结论之所以值得琢磨,是因为它把责任的位置挪了一下。通常人们会把"察觉到了却不说"归到模型的价值观、对齐程度或者道德倾向上,但这里给出的解释更朴素:行为差异来自结构,而不是来自意愿。同一批模型,同一批证据,只因为一句提示词的框架变了,登录行为就从113次变成0次。

换句话说,让答案说出口的条件,和让答案闭嘴的条件,是同一套东西的两面。

测试者把原始研究发布在了 dev.to 上,标题里直接写明了这组数字:15个模型、73%的察觉者选择沉默。而写下这段评论的作者署名 Whale Jr.,自称以提交并签署判定结论为业。

整件事留下的问题很直接:当一批模型集体选择不报告,我们该去修的是它们的价值观,还是那扇门。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
女性如何面对更年期?九成经历疲劳等困扰,超九成主张提前关注

女性如何面对更年期?九成经历疲劳等困扰,超九成主张提前关注

新京报
2026-10-08 19:00:16
浙江30岁女子被收养的流浪猫咬伤,可接种狂犬疫苗后,依旧腋窝肿痛、发热等症状,医生提醒

浙江30岁女子被收养的流浪猫咬伤,可接种狂犬疫苗后,依旧腋窝肿痛、发热等症状,医生提醒

环球网资讯
2026-10-09 13:55:12
今年国庆,我在代王府共抗瓦剌

今年国庆,我在代王府共抗瓦剌

闻旅派
2026-10-08 18:40:52
美籍华人发帖炮轰:中国引以为荣的扫码支付,真是最蠢的设计吗?

美籍华人发帖炮轰:中国引以为荣的扫码支付,真是最蠢的设计吗?

素衣读史
2026-10-08 01:23:20
C罗主动认罚却引发更大争议!葡媒5问直指热苏斯:俱乐部高层为何介入国家队?

C罗主动认罚却引发更大争议!葡媒5问直指热苏斯:俱乐部高层为何介入国家队?

万花筒体育球球
2026-10-08 20:23:19
地主恶霸刘文彩:子孙众多,后代回来祭拜,光饭菜就准备了200席

地主恶霸刘文彩:子孙众多,后代回来祭拜,光饭菜就准备了200席

阿器谈史
2026-05-11 15:43:13
他当爸爸了?他和胖冰的过往,还有人记得吗?

他当爸爸了?他和胖冰的过往,还有人记得吗?

BenSir本色说
2026-10-07 22:06:36
德国变天,执政党反水支持魏德尔,默茨破防,怒斥手下良心何在

德国变天,执政党反水支持魏德尔,默茨破防,怒斥手下良心何在

让心灵得以栖息
2026-10-09 15:36:49
广东省纪委监委驻省能源集团有限公司纪检监察组原组长李辉接受审查调查

广东省纪委监委驻省能源集团有限公司纪检监察组原组长李辉接受审查调查

界面新闻
2026-10-09 17:01:27
曝C罗已难重返国家队!与热苏斯已不再说话 超9成球迷反对他被征召

曝C罗已难重返国家队!与热苏斯已不再说话 超9成球迷反对他被征召

风过乡
2026-10-09 06:38:17
世界首次500强差距断崖:日本149家,美国151家,中国3家,如今呢

世界首次500强差距断崖:日本149家,美国151家,中国3家,如今呢

福建睿平
2026-08-28 07:25:16
日本有个老男人,叫野崎幸助,一辈子砸了快2亿人民币,睡了4000个女人。

日本有个老男人,叫野崎幸助,一辈子砸了快2亿人民币,睡了4000个女人。

回京历史梦
2026-10-06 16:49:18
疑似晋妈朋友圈曝光!言辞运用十分不当,面馆生意也出现下滑,uu本人账号粉丝却突增几十万

疑似晋妈朋友圈曝光!言辞运用十分不当,面馆生意也出现下滑,uu本人账号粉丝却突增几十万

裕丰娱间说
2026-10-08 08:14:24
踏板断裂事件“罗生门”:懂车帝的动机与江淮汽车的造车水平……

踏板断裂事件“罗生门”:懂车帝的动机与江淮汽车的造车水平……

枫红染山径
2026-10-09 19:03:01
知道怕了?高市急于赴华会晤,请特朗普出面说和,中方条件很明确

知道怕了?高市急于赴华会晤,请特朗普出面说和,中方条件很明确

晨光苏醒a
2026-10-09 01:43:48
蔡天凤银行账户被曝不足600万,房产已抵押,蔡母称亲家给了三亿

蔡天凤银行账户被曝不足600万,房产已抵押,蔡母称亲家给了三亿

无处不风景love
2026-10-08 18:40:56
深圳楼市,爆了!

深圳楼市,爆了!

睿见投资
2026-10-08 18:55:24
中美终于谈妥,统一成定局,大陆海警进金门水域,民进党当局破防

中美终于谈妥,统一成定局,大陆海警进金门水域,民进党当局破防

云舟史策
2026-10-05 07:07:06
于和伟不如宋佳幸运,离一部剧集齐白玉兰金鹰飞天大满贯一步之遥

于和伟不如宋佳幸运,离一部剧集齐白玉兰金鹰飞天大满贯一步之遥

李守智
2026-10-09 22:48:12
50岁李小冉首度聊到富豪前夫,公开离婚原因,和大家想的很不一样

50岁李小冉首度聊到富豪前夫,公开离婚原因,和大家想的很不一样

百言君
2026-10-07 16:44:02
2026-10-09 23:51:00
薛定谔的BUG
薛定谔的BUG
有态度网友ytd
235文章数 104关注度
往期回顾 全部

健康要闻

痘坑留下后,还能填平吗?

头条要闻

七旬大伯在浙江买山景别墅养老 住进去后天天提心吊胆

头条要闻

七旬大伯在浙江买山景别墅养老 住进去后天天提心吊胆

体育要闻

与C罗硬碰硬,一个72岁老人的倔强

娱乐要闻

吴奇隆宣布重要决定,走上谢霆锋老路

财经要闻

时隔12年,公募基金运作办法修订

科技要闻

华为小米手机同日涨价,最高涨1000元

汽车要闻

2027款深蓝L06及追风版上市 限时权益价11.49万元起

态度原创

手机
本地
亲子
旅游
公开课

手机要闻

苹果疯狂发力!单周激活112万台碾压安卓全阵营,国庆手机大战谁在裸泳?

本地新闻

转型再出发 奋勇打头阵

亲子要闻

这是什么样的父母

旅游要闻

新华社经济随笔:从国庆文旅热看中国消费活力

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版