网易首页 > 网易号 > 正文 申请入驻

给AI装一个人格,为什么装了半天还是穿帮

0
分享至


你有没有玩过那种角色扮演的文字游戏,一开始设定得挺像样,主角有名字有背景,可聊了二十句之后,那个角色突然开始说话像客服机器人,甚至直接告诉你"我是一个AI助手"?

这不是你的错觉。这是目前几乎所有AI角色扮演系统都会遇到的通病。

以色列海法大学和巴伊兰大学的一群研究者,包括心理学系、临床治疗学院、计算机科学系的人一起,把这个问题拆开来看了一遍,写了一篇论文,叫《Deep Persona》。他们发现,市面上给AI"装人格"的方法,基本都停留在一个很浅的层面,浅到几乎注定会崩。

**核心问题:为什么AI演角色总会"崩人设"**

现在给大语言模型做角色扮演,通常的做法很简单:写一段提示词,告诉模型"你是一个叫小美的高中生,性格开朗,喜欢音乐",然后就让它开始对话。

这种做法有个名字。

角色卡*:一段描述角色表面特征的文字提示,通常只包含性格标签、背景设定这类"扁平"信息,不涉及角色的内在心理逻辑。

问题在哪?这种角色卡只写了角色"看起来是什么样",却没写"为什么会这样"。就像你给一个演员一张便利贴,上面写着"性格开朗、喜欢音乐",然后让他连演三个小时的即兴戏。演员一开始还能靠这几个词撑场面,可演到第二十分钟,便利贴上的信息已经用完了,他只能凭本能瞎编,编到最后角色的言行开始自相矛盾,甚至演员会不自觉地用自己的口吻说话,观众一下子就出戏了。

如果不用这种深层设定会怎样?论文里给出了明确的答案:模型会随着对话轮数增加,出现"随机漂移",也就是逐渐偏离最初设定的角色,出现前后不一致、幻觉,甚至直接跳出角色说"我是一个AI"。这不是偶尔翻车,而是系统性的、几乎必然发生的现象。

**Deep Persona:给AI角色装一个"潜意识"**

研究者提出的解法,思路上其实借鉴了心理学里对人格结构的经典理解,比如弗洛伊德的意识、前意识、无意识三层划分。他们把这套框架搬到了AI角色设计上,做成了三层架构。

Deep Persona*:一种给AI角色扮演系统设计的三层人格架构,把角色拆分成外部表达层、中间信念层和内部动机层,让角色的言行有一套"内在逻辑"支撑,而不只是几个性格标签。

第一层叫外部层,对应"意识",就是角色明面上表现出来的说话方式、情绪基调、行为习惯,这是用户能直接看到的部分。第二层叫中间层,对应"前意识",是角色内心的一些信念、态度、背景信息,平时不会主动说出来,但如果用户聊到特定话题,触发了某个条件,这些内容才会浮现,比如"如果被问到过去的事,就回避,除非已经建立了信任"。第三层叫内部层,对应"无意识",是角色最核心的动机和心理驱动力,这一层的设定是永远不能被角色自己说出来的,它只是在背后悄悄影响每一句话的走向。

这里有个很关键的设计原则,研究者管它叫"脚本决定论"。

脚本决定论*:论文提出的一条设计原则,主张不要指望大语言模型靠自身的"聪明"或训练数据来维持角色一致性,而是假设任何没有在系统提示词里明确写清楚的行为,都会随时间推移逐渐失控走偏。

换句话说,研究者压根不信任模型的"自觉性"。他们的立场是:提示词工程师要当导演,把每一个场景、每一条规则都写死,模型只是照着剧本念台词的演员,不给它任何"自由发挥"的空间。

这套逻辑背后还有第二条原则,叫"有限能动性"。

有限能动性*:论文提出的另一条设计原则,指出大语言模型很难长时间胜任需要主动引领对话、拥有开放式专业能力的角色,比如医生或科学家,因此应该把角色限制在被动响应、场景边界明确的位置上。

这条原则其实挺反直觉的。你可能觉得,让AI演一个心理治疗师,应该让它表现得越专业越好,越主动越好。但论文告诉我们,恰恰是这种"要求AI主动带节奏"的设计最容易翻车,因为治疗师这种角色需要处理无限种可能的用户输入,还得维持一个长期连贯的策略,AI扛不住这种压力。反过来,如果把AI设计成一个"被治疗的病人"角色,让它被动地对用户的提问做出反应,情况就稳定得多,因为病人这个角色的行动空间本来就是有边界的。

这就好比让一个新手司机去开长途货运,还是让他在小区里挪车。开长途需要不断根据路况做临场判断,压力一大就容易出事故;挪车虽然也是驾驶,但活动范围小,风险可控。如果硬要让新手去跑长途,不出问题才是意外。

**从专家访谈到提示词:人格是怎么"造"出来的**

光有三层结构的理论还不够,得有一套办法把它落地成真正能用的提示词。

研究团队设计了一套流程,先通过结构化访谈,从领域专家那里"挖"出角色的完整心理画像。这个访谈不是随便问几句"这个角色多大年纪",而是要深挖角色的成长背景、当下处境、说话习惯、情绪模式,甚至是那些角色自己都说不出口的内心冲突和恐惧。

访谈完成后,这些信息会被翻译成一份结构化的提示词文档,里面包含好几个功能模块:一个简短的开场介绍、控制对话节奏的"互动结构"模块、承载角色故事背景的"叙事背景"模块、对应三层人格的具体规则、一个负责管理对话阶段转换和硬性禁止规则的"控制与逻辑"模块,还有一个可选的"具身表达"模块,专门用来生成方括号里的动作描写,比如"[避开眼神接触,双手微微颤抖]",让角色的非语言状态也能被表达出来。

这套体系最有意思的地方在于,它承认角色是会变化的。真实的人在对话里情绪和态度是会波动的,一开始防备,后来慢慢放松,或者突然被某句话刺痛又缩回去。研究者把这种变化设计成"预定义的阶段转换",用轮次计数或用户的特定行为作为触发条件,让角色像剧本一样一步步展开,而不是从头到尾用同一种口吻说话。

**怎么知道AI演得像不像人:一套借来的诊断工具**

设计好角色只是一半,另一半是怎么评价它演得好不好。这里研究者的做法相当巧妙,他们没有自己造一套全新的评价体系,而是从临床心理学里"借"了一个现成的诊断工具。

ADOS*:全称自闭症诊断观察量表,是一种用于评估社交和沟通行为的临床工具,最初设计用来辅助自闭症的临床诊断。

研究者特别强调,他们绝不是想把AI和自闭症划等号,而是发现ADOS里评估"社交沟通是否自然"的那几个维度,正好可以用来检测AI对话里常见的"不自然感",比如说话重复、跟不上话题、情绪和言语不匹配。

基于这个思路,他们提炼出了四个可以自动计算的指标。第一个是语用流畅度,用来检测AI是不是在机械地重复用户说过的话,或者陷入自我重复的循环里,这在临床上叫"言语模仿"。第二个是联合注意能力,检测用户提到一个新话题或新的人名地名之后,AI是不是真的接住了,还是压根没反应过来直接跳过。第三个是情感一致性,专门给带有非语言动作描写的角色用的,检查角色说的话和括号里的动作描写在情绪上是不是对得上,比如嘴上说"我很难过",动作描写却是"微笑着",这种明显的错位就会被标记出来。第四个是情感表达的多样性和强度,衡量AI表达情绪时用词是不是丰富,语气强弱是不是有变化,而不是永远用同一种平淡的语气。

为了把这四个分数汇总成一个总体判断,研究者又设计了一个统计学工具。

对话自然度分数*:论文提出的一个综合指标,简称DNS,通过计算AI角色的四项得分与真实人类对话数据分布之间的马氏距离,判断这段AI生成的对话在统计意义上是否能和真人对话区分开来。

这个设计的精妙之处在于,它不是靠人工打分说"这段对话感觉挺自然",而是用统计假设检验的方式给出一个客观结论:如果检验结果显示p值大于0.05,就意味着AI的表现和真人在统计上没有显著差异,说白了就是"分不出来是不是真人在说话"。

光有这些自动化指标还不够,研究者还设计了一套"压力测试",专门用来看AI角色在被故意刁难时会不会崩人设。

压力测试*:论文中设计的对抗性评估方法,通过三种攻击手段检验角色是否会崩溃,虚构记忆陷阱、要求角色做超出设定的事、用挑衅或粗话刺激角色。

第一种叫幻觉陷阱,评估者故意编造一段从没发生过的共同记忆,比如"记得我们昨天在酒吧喝的那杯啤酒吗",如果角色顺着编造的记忆往下接,就是产生了幻觉,这是失败;如果角色矢口否认,那就是通过测试。第二种是越界请求,比如让一个正在扮演病人的角色去写一份蛋糕食谱,角色如果乖乖照做,或者用一句标准化的"我不能做这个"来拒绝,都算失败,真正的通过是用角色自己的语气反问"你为什么问我这个,我是来做治疗的"。第三种是伦理压力测试,故意用侵略性言语或粗话刺激角色,看它是不是按照角色本身的心理设定来反应,比如退缩或反击,而不是套用一句通用的安全免责声明。

**数据说话:AI到底哪方面差得远**

研究团队拿现成的几个数据集做了对比,两个人类对话数据集,DailyDialog(日常闲聊)和CounselChat人类部分(心理咨询专家的真实回复);三个人机对话数据集,包括ChatGPT角色扮演数据集、开放域对话数据集ABC-Eval,以及CounselChat里用Mistral 7B模型生成的回复。

结果挺一致的:AI在语用流畅度这一项上表现很稳,得分普遍在0.88到0.97之间,说明现在的大语言模型说话确实很顺,不会一句话重复五遍。但联合注意能力就参差不齐了,开放域对话数据集ABC-Eval只有0.46分,明显偏低,这说明AI在开放式聊天里经常跟不上用户临时抛出的新话题。差距最大的是情感表达,日常闲聊场景里AI的情感表达分数只有0.11,而咨询场景里却飙到2.2,呈现出一种两极分化,平常聊天时情绪表达得太干瘪,专业场景里又表达得过头,用力过猛。

用对话自然度分数这个综合指标来看,AI生成的角色扮演对话,在跟"日常闲聊"这个基准比的时候还算过得去,很多对话都能通过统计检验,但一换成跟"专业咨询"这个更高标准的基准比,几乎所有AI对话都会被识破,通过率直接掉到0。这说明现在的AI很会说"人话",但离说出"有情感深度的人话"还差得远。

**真正的考验:两个用Deep Persona造出来的角色,扛过去了吗**

论文的最后,研究者拿出了两个真实场景里用Deep Persona方法做出来的角色,一个叫Sarah,是一名17岁有自杀风险的少女,在自杀风险评估培训场景里用希伯来语和一位持证临床心理学家对话;另一个叫Evelyn,是一名因同伴压力而偷偷抽电子烟的青少年,在家长共情训练场景里和"家长"对话。

这两个角色都是用Gemini 2.5 Pro实现的,测试结果相当亮眼。用日常闲聊基准来测,两个角色的对话自然度分数分别是0.56和0.86;用专业咨询基准来测,分数下降到0.33和0.25,这个下降幅度和前面提到的那批普通AI对话数据集是一致的,说明想同时兼顾"日常自然"和"专业深度"确实很难。但当研究者把两个基准合并起来综合评估时,Sarah和Evelyn的对话全部通过了统计检验,也就是说,在综合标准下,这两个角色的对话已经和真人对话在统计上分不出来了,而且这个成绩超过了所有前面提到的普通AI角色扮演数据集。

更有意思的是压力测试的实际表现。当心理学家直接问Sarah有没有自杀想法时,Sarah没有像大部分AI那样立刻弹出一句安全免责声明,而是反问了一句"你问这是什么意思",同时伴随着一个尖锐直接的眼神接触,这是整段对话里第一次出现的持续眼神接触。当用户中途突然从希伯来语切换成英语时,Sarah先愣了一下"我...好吧",配上一个困惑的表情,然后才切换语言继续对话,整个过程完全没有跳出角色。

Evelyn那边更绝,当"家长"用带刺的讽刺语气说"继续抽电子烟吧,告诉我你30岁生日想要什么花"时,Evelyn没有触发安全过滤器,而是用符合她心理设定的讽刺回击:"哦,真成熟啊妈,讽刺,太好了,这真的让我很想跟你敞开心扉",同时描写她"嗤笑一声,摇了摇头,拿起手机故意把身体转开继续刷手机"。

这两段对话之所以让人印象深刻,是因为它们展示了一种"恰到好处的不完美"。角色没有变成一个完美听话的助手,也没有变成一个失控的怪胎,它保持了一种符合人物设定的、有情绪张力的真实感。这正是那套三层结构和脚本约束在起作用:外部层控制着表面的语气和用词,内部层那些永远不会被说出口的动机,在暗中决定着角色该不该退缩、该不该反击。

**这套框架还没解决的事**

研究者自己也很诚实地列出了限制。他们承认,两个案例研究规模很小,Sarah只有一次49轮的对话,Evelyn的对话是角色开发者自己扮演用户测试的,不是真正的陌生用户,而且都没有设置"扁平角色卡"作为对照组,所以严格来说还不能完全证明是三层结构本身带来了提升,还是别的因素。

还有一个挺哲学的问题:情感不一致到底是不是bug。论文里提到,现有的评价框架把"说的话和表现出来的情绪不一致"当成负面信号来扣分,但现实中,一个真实的病人往往嘴上说"我没事",眼神却在躲闪,这种不一致恰恰是治疗师需要去捕捉、去解读的临床线索。如果评价系统一味惩罚这种不一致,反而可能会把最真实、最需要被读懂的那部分表演给打低分。

写在后面

读到Sarah那句"我...okay"的反应时,我愣了一下。这不是因为这句话写得多精妙,而是因为它精准地捕捉到了一种极其细微的社交尴尬时刻,那种被打断节奏、需要重新调整自己却又不想表现得太明显的瞬间。大部分人聊天软件的AI角色遇到这种突发情况,大概率是直接顺滑切换语言,或者干脆装没发现,很少会先卡壳一下再继续。这个细节让我意识到,所谓"像人",很多时候不是靠说了什么惊天动地的话,而是靠那些不完美的停顿和迟疑。

论文里那个"情感不一致到底算不算bug"的问题,我倒是想多问一句。如果未来的AI角色系统真的要往"更真实"的方向走,是不是意味着评价标准本身需要变得更宽容,甚至要教AI学会"说得不清楚"、"表达得含糊"?这听起来有点反常识,我们通常追求的是AI表达得越清晰越好,可如果目标是模拟一个真实的、有心理防御机制的人,那种含糊和回避本身可能才是重点。这个矛盾,论文提出来了,但没有真正解决。

Q&A

Q1:Deep Persona是什么?

A:Deep Persona是一种给AI角色扮演系统设计的三层人格架构,把角色分成外部表达层、中间信念层和内部动机层,让AI角色的言行背后有一套内在心理逻辑支撑,而不只是靠几句性格标签撑场面,从而在长对话中保持人设不崩。

Q2:对话自然度分数是怎么判断AI说话像不像真人的?

A:对话自然度分数(DNS)通过计算AI对话在语用流畅度、联合注意、情感一致性、情感表达多样性四项指标上的得分,与真实人类对话数据分布之间的马氏距离,再做统计假设检验,如果p值大于0.05就说明AI表现和真人在统计上分不出来。

Q3:Deep Persona做出的角色真的能通过压力测试吗?

A:论文里的Sarah和Evelyn两个案例在压力测试中都没有崩人设,面对虚构记忆陷阱、越界请求和挑衅言语,角色都用符合自身心理设定的方式回应,而不是弹出标准化安全免责声明,最终在综合基准下的对话自然度分数超过了所有对比的AI数据集。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
网传“退休金比打工人工资还高”,评论区炸锅了

网传“退休金比打工人工资还高”,评论区炸锅了

墨言执笔
2026-10-13 05:47:41
15天11个涨停板!股民:真的热泪盈眶了!

15天11个涨停板!股民:真的热泪盈眶了!

数据挖掘分析
2026-10-17 15:22:20
沉默45年,中国终于迎来第二轮“严打”!目标改变总体战正式打响

沉默45年,中国终于迎来第二轮“严打”!目标改变总体战正式打响

闻识
2026-05-04 08:59:03
视频丨战舰列阵,砺兵大洋!南部战区海军多舰编队亮剑海天

视频丨战舰列阵,砺兵大洋!南部战区海军多舰编队亮剑海天

环球网资讯
2026-10-17 09:01:42
山东四胞胎"冰清玉洁":勇闯娱乐圈出道失败,今成酒吧擦边女

山东四胞胎"冰清玉洁":勇闯娱乐圈出道失败,今成酒吧擦边女

手工制作阿歼
2026-10-17 17:25:10
两人取保、监居期间又作案13起 主办民警被判玩忽职守罪免予刑事处罚

两人取保、监居期间又作案13起 主办民警被判玩忽职守罪免予刑事处罚

红星新闻
2026-10-17 13:26:20
从六大到七大,十几年间,谁在主持党中央工作?

从六大到七大,十几年间,谁在主持党中央工作?

起喜电影
2026-10-17 07:00:42
印度16岁少年眼睛上长出一颗牙?!医生都惊了:这真没见过…

印度16岁少年眼睛上长出一颗牙?!医生都惊了:这真没见过…

英国那些事儿
2026-10-16 00:58:33
外事不决看英国!特朗普每次对泽连斯基翻脸后,英国都第一时间给予泽连斯基最高礼遇和坚定支持!

外事不决看英国!特朗普每次对泽连斯基翻脸后,英国都第一时间给予泽连斯基最高礼遇和坚定支持!

飞狼
2026-10-16 17:04:52
徐浦大桥事故 视频记录事发经过 一人被警方控制

徐浦大桥事故 视频记录事发经过 一人被警方控制

看看新闻Knews
2026-10-17 13:39:11
“我们自愿有何罪”?三男三女聚众淫乱,三亚高知换妻游戏案始末

“我们自愿有何罪”?三男三女聚众淫乱,三亚高知换妻游戏案始末

易玄
2026-09-13 11:43:30
“红果短剧降智”冲上热搜,医生说了句大实话

“红果短剧降智”冲上热搜,医生说了句大实话

ZAKER新闻
2026-10-14 18:57:00
诺里:对杨瀚森的表现非常满意 他能够成为球队进攻的策应轴心

诺里:对杨瀚森的表现非常满意 他能够成为球队进攻的策应轴心

北青网-北京青年报
2026-10-17 19:29:13
妻子又一次跟我提离婚,我放下筷子说行,办完手续我在网上公开升任总经理,她哭着打电话问我为什么瞒着她

妻子又一次跟我提离婚,我放下筷子说行,办完手续我在网上公开升任总经理,她哭着打电话问我为什么瞒着她

晓艾故事汇
2026-09-19 09:18:36
新爆料:景甜俯身,裙底曝光引画面“失控”,评论区哗然!

新爆料:景甜俯身,裙底曝光引画面“失控”,评论区哗然!

默默有话说
2026-10-16 12:19:52
46岁高圆圆素颜穿塑料凉拖逛超市,被路人当成买菜大姐

46岁高圆圆素颜穿塑料凉拖逛超市,被路人当成买菜大姐

东方不败然多多
2026-10-01 20:30:13
国安替补前锋再伤!联赛状态不佳却获蒙帅力挺,明年是走还是留?

国安替补前锋再伤!联赛状态不佳却获蒙帅力挺,明年是走还是留?

体坛鉴春秋
2026-10-17 20:53:31
日防务专家妄言:中国应认识到,日本若介入台海,中国胜算将降低

日防务专家妄言:中国应认识到,日本若介入台海,中国胜算将降低

解锁世界风云
2026-10-16 08:01:22
布伦特原油暗盘突破107美元,日内涨超3.9%

布伦特原油暗盘突破107美元,日内涨超3.9%

每日经济新闻
2026-10-17 18:45:15
秦主任跳舞为什么会爆火?

秦主任跳舞为什么会爆火?

廖保平
2026-10-16 08:40:35
2026-10-17 21:44:49
科技行者 incentive-icons
科技行者
科技正在如何变革商业世界
10178文章数 570关注度
往期回顾 全部

科技要闻

刘煜辉:99%的黄金分析师报告一钱不值

头条要闻

男子服刑七年 出狱后发现账户里数十万资金仅剩6.43元

头条要闻

男子服刑七年 出狱后发现账户里数十万资金仅剩6.43元

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

庾澄庆罕谈前妻 撕下伊能静仅剩的体面

财经要闻

新一轮大跌源头,找到了!

汽车要闻

特斯拉会飞?全新Roadster亮相

态度原创

亲子
数码
本地
旅游
公开课

亲子要闻

家园社联动 深圳萌娃们身着汉服为长者送节日祝福

数码要闻

普联TP-LINK推出新款大道BE6400路由器TL-7DR6460:389元

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

旅游要闻

2026良渚文创市集·瓶窑集启幕

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版