网易首页 > 网易号 > 正文 申请入驻

当AI记住了你说话的样子,却学不会同时听懂你的指令

0
分享至


你有没有遇到过这样的场景:你让一个很懂你的AI助手帮你写点东西,顺手加了一句"用简洁一点的风格",结果它写出来的东西,完全不像你了。

那种熟悉的、带点小情绪、习惯用短句子的味道消失了,取而代之的是一段中规中矩、谁看了都觉得"没毛病但没意思"的文字。你可能会觉得,这大概是AI能力不够,多训练训练就好了。但一群来自加州大学欧文分校和TikTok的研究者发现,这背后其实是一个更根本的问题:当AI被要求同时做两件事,记住你是谁、听你的具体指令的时候,这两件事会互相打架。

他们把这个现象叫做**人格坍塌**。

这篇论文的核心发现挺让人意外的:不是AI记不住你的个性,而是一旦你给它下达了明确的风格指令,它记住的那部分你就会被冲刷掉,像退潮时沙滩上的脚印。

这件事难在哪

先说说这个问题到底有多普遍。

现在做个性化AI主要有三条路子。第一条是检索式,把你过去说过的话、写过的东西找出来塞进AI的上下文里,让它照着学。第二条是给每个用户单独训练一个小模型或者适配器,相当于给每个人开小灶。第三条是往AI里插入一段代表"你"的隐藏向量,让模型在生成的时候悄悄参考一下。

这三条路子有一个共同的盲点:它们都在拼命往AI脑子里塞用户信息,却没人认真想过一个问题,当外部又来了一条明确的风格要求,比如"请用正式简洁的语气",这两股力量该怎么相处。

论文里做了个实验,让几个主流的个性化方法在没有风格指令时正常发挥,然后加上"温暖幽默"、"尖锐批评"、"简洁正式"、"反思详尽"这四种风格提示词,结果发现,原本个性鲜明的输出,大部分都被风格指令冲淡甚至完全覆盖了。

这就好比你请了一位很懂你口味的私人厨师,他知道你爱吃辣、不爱放香菜、喜欢锅气重一点的菜。突然有一天你说"今天做一道摆盘精致的菜",结果他端上来的是一道完全按西餐标准做的、香菜都不放辣的菜,你的那些个人偏好全都不见了。如果厨师没有能力同时兼顾"摆盘精致"和"你的口味",那这道菜看着好看,吃起来却完全不是你熟悉的味道,你花钱请私厨图的是什么就没了意义。

方法解读:把个性看成一种"差值"

面对这个矛盾,研究者们换了个角度想问题。

他们不再把"个性化"理解成"直接学会生成用户会说的那种话",而是把它重新定义成一种残差。

**残差**:这里指的是两个概率分布之间的差异,一个是用户真实说话的分布,一个是AI在没有任何用户信息时的默认分布,两者之间的"差"就是纯粹的个性信号。

打个比方,如果你想知道一个人到底有多"辣",直接问"这道菜辣不辣"是不够的,你得先知道大众口味的平均辣度是多少,然后看这个人比平均水平辣了多少,这个"多出来的部分"才是真正属于他的个人特征。论文里的思路差不多,一个用户写的回复里,既包含了这句话本身要传达的信息,也包含了一堆通用的、大家都会这么说的成分,把通用成分刨掉,剩下的才是这个人独有的表达习惯。

基于这个想法,他们设计了一个叫做**PsPLUG**的轻量插件。

**PsPLUG**:一种可以插在冻结的大语言模型上的轻量模块,专门用来在保持用户个性的同时,兼顾外部的风格指令。

它的结构说起来不复杂,核心是往输入的词嵌入层里塞进去一小段"前缀向量",这段向量由三部分拼接而成。

第一部分是一个全局共享的系统指令向量,负责理解风格要求本身。第二部分是从用户历史里提炼出来的用户向量,负责携带个人特征。第三部分是根据当前输入内容动态生成的查询向量,负责让模型知道用户在不同场景下的偏好可能不太一样。

**Profile-Augmented Generation(PAG)**:一种把用户历史记录压缩成一段简短文字描述的技术,相当于给每个用户写一份"性格摘要",然后用一个冻结的句子编码器把这份摘要转成向量,缓存起来供后续使用。

这里有个设计细节值得说一下,为什么不直接把用户的原始聊天记录一股脑塞进模型,而要先压缩成一份摘要再编码?原因很简单,如果每次生成都要处理完整的历史记录,不仅速度慢,占用的显存和计算量也会随着历史记录变长而线性增长。而PsPLUG把用户信息压缩成一个固定长度的向量以后,不管这个用户的历史记录有多长,推理时的开销都是恒定的。

这就像你去银行办业务,柜员不需要把你过去十年的每一笔交易记录都翻出来看一遍才能确认你的身份,他只需要看一眼你的身份证号码,这个号码背后已经关联好了你所有的信息,查询效率完全不受你交易记录多少的影响。如果每次都要翻全部流水,那办一次业务可能要等一整天。

训练目标:如何教会模型分清"个性"和"风格"

光有结构还不够,关键是怎么训练它。

论文里用了一种叫**Bradley-Terry偏好优化**的方法。

**Bradley-Terry(BT)模型**:一种经典的成对比较模型,最早用来给运动员或选手的胜负排名打分,后来被广泛用在偏好学习里,通过比较"哪个更好"来训练模型。

具体做法是这样的:给定一个带风格要求的输入,先让基础模型(没有插件加持的那个)自己生成一个只遵循风格、但没有任何用户特色的回答,把这个叫做"风格样本"。然后拿用户真实写过的话作为"正样本",两者组成一对,训练目标就是让加了PsPLUG的模型更偏向生成像用户真实写的那种内容,而不是那种千篇一律的风格样本。

这个设计的巧妙之处在于,它没有让模型去无脑模仿用户的每一个字,而是让模型学会"在满足风格要求的前提下,往用户的方向多偏一点"。

这有点像学一门外语时候的配音练习。如果你想学会某个演员说话的语气和习惯,直接照着剧本念台词是不够的,因为剧本上的字大家念出来都差不多。真正有效的训练方法是,先听一段中规中矩的标准配音,再对比这个演员自己原声的版本,专门去揣摩两者之间"多出来"的那部分语气、停顿和用词习惯,然后刻意去模仿这部分差异。如果没有这个对比步骤,直接照本宣科去模仿,你学到的可能只是台词内容本身,而不是这个人独特的说话方式。

强度可调:给个性化装一个音量旋钮

PsPLUG还有一个很实用的功能,可以在推理时动态调节个性化的强度,而不用重新训练模型。

方法很直接,给用户向量乘上一个系数α。当α趋近于0的时候,用户的个人特色几乎被抹平,输出会变得很"大众化";当α大于1的时候,个人特色被放大,输出会显得更加"你"。

这个设计解决了一个实际问题:不同场合对个性化的需求是不一样的。写一封正式邮件的时候,你可能希望个性弱一点,措辞更稳妥;发一条朋友圈或者回复朋友消息的时候,你又希望AI能完全表现出你的语气。

这就像调音响的音量旋钮。同一首歌,在图书馆自习的时候你希望音量小到几乎听不见,在开party的时候你又想开到最大声。如果音响没有这个旋钮,只能固定在一个音量播放,那要么图书馆吵得没法学习,要么派对现场声音小得没气氛,永远没法适应场景变化。

实验结果说了什么

论文在LaMP这个个性化生成基准上做了大量实验,涵盖了引用识别、电影打标签、商品评分、新闻标题生成、学术标题生成、推文改写这六类任务。

**LaMP基准**:一套专门用来评测大语言模型个性化能力的标准数据集集合,涵盖多种真实场景下的用户偏好建模任务。

先看没有风格约束的情况下,PsPLUG的表现。

| 任务 | 指标 | 非个性化 | 检索式 | PAG | PPlug | OPPU | PsPLUG |

| 引用识别 | 准确率 | 0.518 | 0.441 | 0.562 | 0.563 | 0.556 | **0.584** |

| 电影打标签 | F1 | 0.254 | 0.283 | 0.311 | 0.307 | 0.314 | **0.334** |

| 商品评分 | MAE(越低越好) | 0.516 | 0.615 | 0.435 | 0.339 | 0.347 | **0.332** |

| 新闻标题生成 | ROUGE-1 | 0.146 | 0.165 | 0.164 | 0.158 | 0.152 | **0.167** |

| 推文改写 | ROUGE-1 | 0.497 | 0.500 | 0.507 | 0.502 | 0.498 | **0.523** |

在绝大多数任务上,PsPLUG都拿到了最好或接近最好的成绩,尤其是在推文改写任务上,ROUGE-1从最好的基线0.507提升到0.523,差不多提升了1.6个百分点。

真正有意思的是加上风格约束之后的对比。研究者引入了四种预设风格:温暖幽默、尖锐批评、简洁正式、反思详尽。结果显示,在超过80%的"风格-任务-指标"组合里,PsPLUG都是表现最好或第二好的方法,某些情况下比之前的基线高出2到4个ROUGE点。

有个细节很值得琢磨。在"简洁"这种风格约束下,有些基线方法的表现反而比不加风格约束时更好了,比如非个性化基线在学术标题生成任务上的ROUGE-1从0.426提高到了0.441。这说明"简洁"这种要求本质上更像是一种结构性约束,它压缩的是句子长度和冗余表达,而不是改变说话的语气或情绪,所以它跟个性化的冲突相对较小。而"温暖"、"批评"这类跟情感色彩强相关的风格,才是真正会跟个性化打架的类型。

研究团队还专门找了人类评审员和大语言模型评审员,分别给风格匹配度和个性化程度打分。结果显示,PsPLUG在四种风格下的风格得分都是最高的,同时个性化得分也保持领先,证明它确实做到了"两头兼顾",既没有为了保持个性而放弃风格要求,也没有为了迎合风格而丢掉个性。

人类评审和AI评审的意见基本一致,两者的相关系数(斯皮尔曼等级相关系数)在风格评分上达到0.864,在个性化评分上达到0.712,说明用AI来做大规模评测是靠谱的,但在一些细腻的情感表达判断上,人类评审员还是会更敏锐一些,尤其是在"反思详尽"这种主观性比较强的风格上,两者的分歧会更明显一些。

效率对比也是一个亮点。传统的检索式方法,存储成本会随着用户历史记录变长而线性增长,推理延迟也会跟着变长。给每个用户单独训练一套参数的方法,虽然效果好,但每个用户都要占用独立的存储空间,而且推理时需要临时加载和切换,在多用户同时在线的场景下会很吃力。PsPLUG因为把用户信息压缩成了固定长度的向量,存储和推理开销都跟用户历史长度无关,不管这个用户攒了多少条历史记录,占用的资源始终是恒定的一小份。

这个思路并非完全从石头缝里蹦出来的。DPO这类偏好优化方法早在这篇论文之前就已经被用来做个性化对齐,比如PUGC工作把用户生成的内容转化成大规模的偏好训练对,而DPL则强调用户之间的差异才是个性化学习的关键信号,主张通过跨用户对比来学习。PsPLUG站在了这些工作的肩膀上,但它多做了一步,就是明确把"风格"这个变量单独拎出来,和"个性"放在同一个坐标系里去建模两者的冲突关系,这在此前的工作里是比较少见的视角。

在PsPLUG之后,已经有团队在同一批作者的后续工作里进一步扩展了这个思路。比如同一批研究者2026年发表的CARD这项工作,提出了按用户群体聚类,再结合奖励引导的解码策略来做个性化文本生成,某种程度上是把PsPLUG里"残差建模"的思想从单用户扩展到了用户群体层面。另外,像PROPER这样的渐进式学习框架也在探索如何一步步让大模型适配个性化需求,反映出这个"如何在框架层面平衡个性与指令"的问题,正在从一个孤立的观察演变成一个被系统性研究的方向。

写在后面

读完这篇论文,一个让我印象很深的点是,研究者选择用GPT-5.2 PRO作为自动化裁判,同时又坚持做人工验证,而不是完全依赖AI打分。这种做法本身就在提醒我们,即便相关系数已经达到0.7到0.86这样看起来很高的水平,依然存在AI和人类判断标准不完全一致的地方,尤其是在情感细节和风格主观性判断上。这提示了一个更普遍的现象:用AI评测AI,永远有一层"用相似的思维方式判断相似问题"带来的盲区。

论文里还有一个没被过多展开但很值得追问的细节,四种风格类别是研究者预先设定好的,现实世界里用户想要的风格千变万化,不会恰好落在这四个框里。如果风格是开放式的、可以自由组合的,比如"既要幽默又要专业还要简短",PsPLUG现在这套残差建模的框架还能不能撑得住,这是一个悬而未决的问题。

另外一个让我觉得有意思的联想是,这种"把个性看成相对于基线的偏差"的思路,其实跟统计学里"去均值"的操作有点神似,你想理解一个数据点的特殊性,先得知道大家的平均水平在哪里。这种思维方式或许不只适用于语言模型的个性化,任何涉及"共性和个性如何共存"的系统设计问题,可能都值得从这个角度重新审视一遍。

下次当你的AI助手因为一句"请简洁一点"就变得不再像你的时候,你大概会想起,这背后其实是一场关于"谁的声音更大"的拉锯战,而目前为止,还没有哪个方法能保证这场拉锯永远打成平手。

Q&A

Q1:PsPLUG是什么?

A:PsPLUG是加州大学欧文分校和TikTok研究者提出的一种轻量级插件,通过学习用户特征相对于中性回答的"残差",在保持个性化表达的同时兼顾风格指令,让AI在遵循明确要求时不丢失用户个人特色。

Q2:什么是人格坍塌?

A:人格坍塌指的是当AI被要求遵循明确的风格指令时,原本能体现用户个性化特征的输出被风格指令覆盖,导致个性化效果大幅下降的现象,这是论文发现的一个此前被忽视的关键问题。

Q3:PsPLUG如何调节个性化强度?

A:PsPLUG引入了一个可调系数α,乘在用户特征向量上,α趋近0时个性化被抑制,α大于1时个性化被放大,用户可以在推理阶段直接调整,不需要重新训练模型。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
沙特撑不住了?公开喊话中国,埃及准备下场参战?也门立刻放狠话

沙特撑不住了?公开喊话中国,埃及准备下场参战?也门立刻放狠话

田园小归
2026-10-19 19:45:36
马斯克给全美儿童送股票!韩路:花一百亿就能买千万人心智,划算

马斯克给全美儿童送股票!韩路:花一百亿就能买千万人心智,划算

柴狗夫斯基
2026-10-20 08:39:51
沉默45年,中国终于迎来第二轮“严打”!目标改变总体战正式打响

沉默45年,中国终于迎来第二轮“严打”!目标改变总体战正式打响

闻识
2026-05-04 08:59:03
《街头霸王》苏联肥有多变态,他有十几种方法可以看户型

《街头霸王》苏联肥有多变态,他有十几种方法可以看户型

街机时代
2026-09-03 18:10:03
8799元跌到4989元,iPhone Air京东自营破五千

8799元跌到4989元,iPhone Air京东自营破五千

像素与芯片
2026-10-20 21:57:15
巴黎多家店铺被劫后,街头涌现大量奢侈品小摊

巴黎多家店铺被劫后,街头涌现大量奢侈品小摊

都市快报橙柿互动
2026-10-20 15:09:26
周乙离世十年,顾秋妍在旅途中被名军官拦住,对方交给她一段话

周乙离世十年,顾秋妍在旅途中被名军官拦住,对方交给她一段话

不易一字
2026-03-27 16:53:54
实话实说,80%的人不适合买电动汽车

实话实说,80%的人不适合买电动汽车

阿芒娱乐说
2026-10-20 00:29:51
广东男篮为何输球,主教练赛后这样说,他们实力比我们强

广东男篮为何输球,主教练赛后这样说,他们实力比我们强

南海浪花
2026-10-20 22:25:01
克罗斯:莱比锡如果不奋起反抗皇马,将会和1-6拜仁一模一样

克罗斯:莱比锡如果不奋起反抗皇马,将会和1-6拜仁一模一样

懂球帝
2026-10-20 13:36:06
国产微型无人机再创吉尼斯世界纪录!时速500公里 整机仅200多克

国产微型无人机再创吉尼斯世界纪录!时速500公里 整机仅200多克

快科技
2026-10-20 15:12:08
真打不动了!上映15天票房才拿下6000万

真打不动了!上映15天票房才拿下6000万

草莓解说体育
2026-10-20 18:21:49
二十届五中全会10月26日开幕,这次重点不在经济,而在这一件事

二十届五中全会10月26日开幕,这次重点不在经济,而在这一件事

亿通电子游戏
2026-10-20 19:22:52
为了防止七天白嫖党,女装大规模启用防拆带,结果一群小仙女破防了

为了防止七天白嫖党,女装大规模启用防拆带,结果一群小仙女破防了

张晓磊
2026-10-06 12:12:52
女子去无人区自驾游拍照,岂料隔天警方上门:这张照片你仔细看

女子去无人区自驾游拍照,岂料隔天警方上门:这张照片你仔细看

罪案洞察者
2025-12-08 11:19:52
刘嘉玲问何赛飞:除了你老公,有没有哪个男人让你突然心动过?

刘嘉玲问何赛飞:除了你老公,有没有哪个男人让你突然心动过?

老吴教育课堂
2026-10-18 10:08:20
绝了绝了!霍华德宣布!二次退役玩弄NBA

绝了绝了!霍华德宣布!二次退役玩弄NBA

篮球实战宝典
2026-10-20 18:02:58
央视调整!成都蓉城VS大连英博,直播频道更改,阿洛伊西PK李国旭

央视调整!成都蓉城VS大连英博,直播频道更改,阿洛伊西PK李国旭

体育大学僧
2026-10-20 09:39:37
曝95花与大13岁知名导演结婚!秘密怀孕大肚遮不住,粉丝崩溃脱粉

曝95花与大13岁知名导演结婚!秘密怀孕大肚遮不住,粉丝崩溃脱粉

荒野老五
2026-10-20 22:22:59
中央定调,继续延迟退休!女职工晚2年退休,养老金多400元吗?

中央定调,继续延迟退休!女职工晚2年退休,养老金多400元吗?

虎哥闲聊
2026-10-06 20:02:55
2026-10-20 23:19:00
科技行者 incentive-icons
科技行者
科技正在如何变革商业世界
10218文章数 570关注度
往期回顾 全部

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

头条要闻

00后小伙踩自制飞行滑板飞越长江被质疑是AI 景区回应

头条要闻

00后小伙踩自制飞行滑板飞越长江被质疑是AI 景区回应

体育要闻

巴拉克:天生亚军与漫长极夜

娱乐要闻

刘恺威承认新恋情,打球认识

财经要闻

抄底万达之后 私募大佬又对恒大下手了

汽车要闻

黑科技一次看全 2026奇瑞全球创新大会干货汇总

态度原创

时尚
游戏
教育
旅游
家居

献祭奚梦瑶9年后,维密悄悄赚翻了

《边缘行者2》官方联动手柄要来了!国产品牌飞智

教育要闻

华中师范大学2027届保研数据:两个交叉班50%并列第一,师范班集体被反超

旅游要闻

一山两色!济南蝎子山迎来最佳观赏期

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版