网易首页 > 网易号 > 正文 申请入驻

政治宣传率从22%降到1%,开源模型只差一次微调

0
分享至

Nous Research 把阿里巴巴的 Qwen3.8-27B 拿去做了一次后训练微调,方向很明确:强化西方价值观。结果是一个叫 Arete-27B 的模型,政治宣传率从 22% 掉到了 1%。


为了衡量这件事,他们先搭了一套评估基准,包含 803 个提示词,覆盖言论自由、民主等七大类。微调投入了 5300 万 token,之后模型在这套基准上的政治宣传率断崖式下降,按 Nous Research 的说法,已经达到主流西方开源模型的水平。

更值得看的是代价有多小。在 Hermes Bench 测试中,这次微调只是极小程度影响了推理与代码生成能力,Qwen3.8-27B 原本的基础性能基本被保住了。换句话说,改的是价值观倾向,不是把模型改傻。

Nous Research 自己总结了一句话:“the values in an open model are one fine-tune away”——一个开源模型的价值取向,距离一次微调而已。这句话也是整件事的核心结论:开源模型的价值观可以通过单次微调实现本地化,全球开发者手里多了一个可复制的去偏见范例。

把这条路径拆开看,逻辑并不复杂:先定义要测什么,用 803 个提示词把“政治宣传”变成可量化的比率;再用 5300 万 token 的微调去压这个比率;最后用 Hermes Bench 确认基础能力没有跟着一起被削掉。三步里,评估基准是前提,能力保持是底线。

对做模型后训练的人来说,这个案例的价值不在 1% 这个数字本身,而在于它演示了一套流程:偏见可以被测量,也可以被一次微调改写,同时不必牺牲推理和代码能力。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
延迟退休实施一年多,一个尴尬的问题终于摆上了台面

延迟退休实施一年多,一个尴尬的问题终于摆上了台面

游文刀
2026-11-09 02:53:51
形势很严重了!大家立刻做准备吧,随时会变天!

形势很严重了!大家立刻做准备吧,随时会变天!

东亚财评V
2026-11-09 07:10:09
网传卫生巾销量大跌四成,到底是什么原因?

网传卫生巾销量大跌四成,到底是什么原因?

夜深爱杂谈
2026-11-08 21:49:57
黄仁勋出轨对象疑曝光,肤白貌美气质不俗!情报部门已介入调查!

黄仁勋出轨对象疑曝光,肤白貌美气质不俗!情报部门已介入调查!

老搽学科普
2026-11-09 09:43:43
曼联4-4维拉!英超8轮不胜跌入降级区 两度丢2追2 第97分钟绝平

曼联4-4维拉!英超8轮不胜跌入降级区 两度丢2追2 第97分钟绝平

我爱英超
2026-11-09 02:46:04
装了不用、坏了不修!央视曝光多地便民设施“摆设化”,赣州回应:成立调查组连夜核查,杜绝类似问题再发生

装了不用、坏了不修!央视曝光多地便民设施“摆设化”,赣州回应:成立调查组连夜核查,杜绝类似问题再发生

大风新闻
2026-11-09 09:06:02
泸州“花坛白骨案”明日宣判,受害者儿子:自己10岁流浪街头寻母,难以想象她蜷缩花坛28年,不接受两被告人道歉

泸州“花坛白骨案”明日宣判,受害者儿子:自己10岁流浪街头寻母,难以想象她蜷缩花坛28年,不接受两被告人道歉

极目新闻
2026-11-09 12:10:50
“色诱黄仁勋”? 中国女高管黄乐,胸大颜值高履历也不简单!

“色诱黄仁勋”? 中国女高管黄乐,胸大颜值高履历也不简单!

乌娱子酱
2026-11-09 11:24:05
张雪看到释然了!网友:哈工大实打实985硕士毕业14年,陶伟胜街头卖气球,晴天100元,雨天没有

张雪看到释然了!网友:哈工大实打实985硕士毕业14年,陶伟胜街头卖气球,晴天100元,雨天没有

火山詩话
2026-11-09 08:11:47
港女大闹东京机场,行李超重拒付钱!被日本柜台人员怒撕机票,网友:日本人没这么硬气吧?

港女大闹东京机场,行李超重拒付钱!被日本柜台人员怒撕机票,网友:日本人没这么硬气吧?

日本物语
2026-11-08 21:09:00
墨尔本遇害骑手妻子:父亲刚刚病故,失去两个最亲之人,丈夫连女儿婚礼都没赶上

墨尔本遇害骑手妻子:父亲刚刚病故,失去两个最亲之人,丈夫连女儿婚礼都没赶上

西游日记
2026-11-08 14:19:05
热火力克国王:字母哥29+14双里程碑 克莱7三分阿卡夫32+10

热火力克国王:字母哥29+14双里程碑 克莱7三分阿卡夫32+10

醉卧浮生
2026-11-09 12:31:48
形势严重!这5个行业,发不下工资来了!

形势严重!这5个行业,发不下工资来了!

职场资深秘书
2026-10-31 10:37:03
缺货!山姆多款被抢空,有商品比官方便宜近5000元,到底值不值得冲?

缺货!山姆多款被抢空,有商品比官方便宜近5000元,到底值不值得冲?

都市快报橙柿互动
2026-11-08 20:51:00
重大突破!我国新一代光刻机模型亮相

重大突破!我国新一代光刻机模型亮相

观察者网
2026-11-08 20:19:05
5死38伤!太原豪生国际公寓火灾现场照片流出,救援现场直击,冲天火光里,多名被困者选择探出窗外

5死38伤!太原豪生国际公寓火灾现场照片流出,救援现场直击,冲天火光里,多名被困者选择探出窗外

火山詩话
2026-11-09 05:46:02
突发!黄仁勋人设崩塌,承认出轨,女儿紧急取消韩国行

突发!黄仁勋人设崩塌,承认出轨,女儿紧急取消韩国行

大洛杉矶LA
2026-11-09 06:07:16
春晚一跳封神,被 400 亿东莞首富娶回家,如今已经是 7 岁孩子的妈妈

春晚一跳封神,被 400 亿东莞首富娶回家,如今已经是 7 岁孩子的妈妈

喜欢历史的阿繁
2026-11-09 05:04:34
新婚妻子嫌丈夫不行,夸男友比他厉害,2004年丈夫不堪其辱杀妻子

新婚妻子嫌丈夫不行,夸男友比他厉害,2004年丈夫不堪其辱杀妻子

汉史趣闻
2026-11-08 10:00:43
独行侠37分大胜篮网:弗拉格25+12助攻创生涯纪录 欧文21分

独行侠37分大胜篮网:弗拉格25+12助攻创生涯纪录 欧文21分

醉卧浮生
2026-11-09 11:07:14
2026-11-09 12:55:00
固件更新中
固件更新中
有态度网友ytd
207文章数 85关注度
往期回顾 全部

科技要闻

AI机房被卡,美股重挫!英伟达大跌9%

头条要闻

丈夫凌晨4点和陌生女子通话 妻子赌气与异性开房3天

头条要闻

丈夫凌晨4点和陌生女子通话 妻子赌气与异性开房3天

体育要闻

40岁,正是绝杀的年纪!

娱乐要闻

敬一丹女儿追忆母亲:她被世界铭记

财经要闻

市场能接受AI繁荣退潮吗?

汽车要闻

限时权益价8.88万 吉利星愿STAR限定系列发布

态度原创

数码
房产
家居
旅游
艺术

数码要闻

雷柏推出VT2 RT V2系列鼠标:PAW3955 Ultimate,499元起

房产要闻

突发!海口新政:小户型回来了!

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

直播间低价旅游卡兑现难 文旅消费陷阱如何破?

艺术要闻

17位 国外画家笔下的女子

无障碍浏览 进入关怀版