网易首页 > 网易号 > 正文 申请入驻

ICML 2026 | 大模型内部也会长出「情绪树」,规模越大越懂人心

0
分享至



随着语音、视频、多模态能力不断融入大语言模型(LLM),人与 AI 的交互正在越来越接近自然对话。今天的 LLM 不再只是回答问题的工具,也越来越多地出现在教育、客服、陪伴、心理健康等高度依赖情绪理解的场景中。

那么,大语言模型究竟是如何理解人类情绪的?

过去,关于 LLM 情绪能力的研究大多集中在情绪分类任务上:给模型一句话,看它能否判断出其中包含的是快乐、悲伤、愤怒还是恐惧。

但在人类认知中,情绪并不是一组扁平的类别。心理学中的「情绪轮」认为,情绪往往以层级方式组织:例如「乐观」可以被看作「快乐」的一种具体形式,「惊恐」可以被看作「恐惧」的一种具体形式。



图 1 情绪轮。(来自:Idaho State University)

在 ICML2026 的一篇论文中,来自哈佛大学、加州大学圣地亚哥分校、NTT Research 的研究人员 Bo Zhao、Maya Okawa 等提出:大语言模型内部会自然形成类似人类心理学模型的「情绪树」。

模型越大,情绪树越复杂。同时,拥有更复杂情绪结构的模型在销售等任务上表现更好。模型中的情绪结构还会受到性别、种族、收入、教育水平等身份设定的影响,呈现出与人类实验中相似的的情绪识别偏见。



  • 论文标题:Emergence of Hierarchical Emotion Organization in Large Language Models
  • 论文链接:https://arxiv.org/abs/2507.10599
  • 项目主页:https://b-zhao.github.io/blog/hierarchical-emotion-in-llm
  • 作者主页:https://b-zhao.github.io/

从 LLM 中提取情绪树

作者首先用 GPT-4o 生成 5000 个包含不同情绪状态的场景句子,然后让 Llama 系列模型在句子后继续预测「这个句子中的情绪是……」。

接着,作者提取模型在 135 个情绪词上的输出概率,并比较两个情绪词在模型输出中是否经常共同出现。例如,如果模型认为下一个单词是「乐观」的概率较高时,「快乐」也经常概率较高,但反过来并不总是成立,那么我们就可以认为「乐观」是「快乐」的一个更具体的子情绪。

基于这种条件概率关系,模型中的情绪可以构造出一棵情绪树。这种方法不需要人工标注,而是来自模型自身对大量情绪场景的概率判断。



图 2 不同规模 Llama 模型的情绪树(8B,70B,405B)

模型越大,情绪层级越复杂

实验比较了 GPT-2、Llama 3.1 8B、70B 和 405B。结果显示,随着模型规模增大,情绪树变得更深、更复杂,也更接近心理学中的情绪轮结构。

在 Llama 405B 中,诸如快乐、愤怒、悲伤、恐惧等基本情绪,会自然聚合出更细粒度的子类,例如幸福、乐观、沮丧、后悔、焦虑等。论文进一步用总路径长度和平均深度衡量情绪树复杂度,发现这两个指标随模型规模整体上升。



图 3 情绪层级复杂度随模型规模增长。

情绪树能预测模型的情绪识别能力

作者进一步发现,情绪树不只是可视化工具,还能预测模型在不同身份设定下识别情绪的表现。

研究者让 Llama 405B 分别以男性、女性、高收入、低收入、高教育水平、低教育水平等身份来判断情绪。结果显示,不同身份设定会生成不同的情绪树,而情绪树越丰富、路径越长,模型的情绪识别准确率越高。树中的总路径长度与识别准确率的相关系数达到 0.84,显著性小于 0.001。



图 4 情绪树结构越复杂,情绪识别准确率越高。

这意味着,层级结构可以成为一种新的 LLM 评测指标:它衡量的不是模型是否偶然选对标签,而是模型是否形成了更细粒度的情绪概念组织。

LLM 的偏见和人类有多像?

论文还揭示了 LLM 情绪识别中的系统性偏见。Llama 405B 在模拟一些少数或弱势群体身份时,情绪识别准确率明显下降,例如女性、黑人、低收入、低教育水平等身份设定的表现低于对应多数群体或优势群体。

为了验证这些现象是否只是模型自身的偏差,作者还进行了人类实验。研究者在 Prolific 平台上招募 60 名参与者,让他们对 135 个情绪场景进行六类情绪判断。

结果显示,LLM 的一些误判模式与人类参与者存在相似之处。例如,女性参与者和 Llama 的女性身份设定都更容易在「愤怒」与「恐惧」之间混淆;黑人参与者和 Llama 的黑人身份设定也表现出类似的负面情绪混淆模式。

这说明,LLM 可能不仅学到了情绪词和文本之间的对应关系,也在一定程度上吸收了人类社会中的感知模式与偏见。

从理解情绪到影响情绪

情绪树的复杂度不仅反映模型能否「看懂」情绪,也可能影响模型在对话中改变情绪的能力。论文进一步模拟了销售和投诉处理两类场景:前者让模型尝试把一颗橡果卖出更高价格,后者让模型安抚愤怒顾客。每轮对话中,模型都需要预测对方下一步的情绪变化。

结果显示,情绪预测越准确,销售场景中的最终成交价格越高;在投诉处理场景中,顾客对话后的愤怒程度下降也越明显。

这说明,LLM 的情绪理解并不只是静态分类能力。更细致的情绪建模可能帮助模型更有效地顺应、引导甚至改变用户情绪。这一能力在客服、教育和心理支持中可能带来积极作用,但也需要更谨慎地评估其潜在风险。



图 5 情绪预测误差越低,销售 / 客服表现越好。

总结

这篇论文指出,LLM 内部会自然涌现出类似人类情绪轮的层级情绪结构。 随着模型规模增加,这种结构变得更复杂,也更接近心理学模型。

同时,论文也发现,LLM 的情绪理解并非中性。模型在不同身份设定下会表现出系统性偏见,并且这些偏见在部分情况下与人类群体的误判模式相似。

从更广的角度看,这项工作展示了一条新的大模型评测路径:将认知科学理论作为假设,用来分析 LLM 的内部结构和输出行为。我们不仅需要知道模型是否能识别情绪,也需要评估它如何理解,预测,甚至影响情绪。这些能力既可能让 AI 交互更自然、更有帮助,也可能被用于操控、误导或放大社会偏见,因此需要更系统的评测与干预。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美军中东防御体系为何被伊朗导弹轻松击破?

美军中东防御体系为何被伊朗导弹轻松击破?

小眼睛小世界
2026-09-17 07:19:03
知名品牌泡凤爪 被检出大肠菌群超标!

知名品牌泡凤爪 被检出大肠菌群超标!

闪电新闻
2026-09-17 20:43:24
七律/辽宁省政协原副主席戴玉林被查咏叹

七律/辽宁省政协原副主席戴玉林被查咏叹

宝哥精彩赛事
2026-09-18 01:30:54
哈兰德与女友长相出众,女友长得像洋娃娃,十分登对,浪漫幸福

哈兰德与女友长相出众,女友长得像洋娃娃,十分登对,浪漫幸福

娱你同欢
2026-08-30 18:30:43
“小婉君”金铭45岁现状:个子太矮事业受挫,住北京豪宅不婚不育

“小婉君”金铭45岁现状:个子太矮事业受挫,住北京豪宅不婚不育

兵卒史
2026-09-12 02:18:20
仁爱礁传来好消息!菲律宾国防部:坐滩登陆舰的状况正在迅速恶化

仁爱礁传来好消息!菲律宾国防部:坐滩登陆舰的状况正在迅速恶化

孤城落叶
2026-09-16 20:16:21
井柏然否认“割双眼皮”,只是“年纪大皮松了”,整形外科专家揭秘:他从标准内双变大宽眼皮,有三个原因

井柏然否认“割双眼皮”,只是“年纪大皮松了”,整形外科专家揭秘:他从标准内双变大宽眼皮,有三个原因

天津美食全搜罗
2026-09-15 13:51:17
王楚钦再创历史,将成第一个把世界第一拱手送给日本的国乒运动员

王楚钦再创历史,将成第一个把世界第一拱手送给日本的国乒运动员

人类的关注
2026-09-06 04:32:21
博主向王鹤棣道歉:为自己的无心之失郑重道歉,因操作疏忽误建了负面黑词条,初衷绝对没有抹黑、诋毁的任何恶意……目前该账号已禁言

博主向王鹤棣道歉:为自己的无心之失郑重道歉,因操作疏忽误建了负面黑词条,初衷绝对没有抹黑、诋毁的任何恶意……目前该账号已禁言

极目新闻
2026-09-16 20:34:35
一年破例两次访华!确定特朗普会来深圳 APEC ,日本欧洲被晾在一边

一年破例两次访华!确定特朗普会来深圳 APEC ,日本欧洲被晾在一边

小影的娱乐
2026-09-18 00:31:27
男人明目张胆地好色,女人不声不响地好色

男人明目张胆地好色,女人不声不响地好色

加油丁小文
2026-09-15 07:27:58
完结9.5分!HBO这部史诗级大作,被严重低估

完结9.5分!HBO这部史诗级大作,被严重低估

来看美剧
2026-09-16 19:51:59
中国移动董事长陈忠岳最新消息!

中国移动董事长陈忠岳最新消息!

最通信
2026-09-17 20:23:45
“一箱子高科技加寒,你女儿想健康都难!”母亲给女儿的爱心行囊,被骂惨!

“一箱子高科技加寒,你女儿想健康都难!”母亲给女儿的爱心行囊,被骂惨!

林林先生
2026-09-17 16:34:42
富豪女拒缴40元停车费,猛踩油门拖死收费员,其父狂言:我来摆平

富豪女拒缴40元停车费,猛踩油门拖死收费员,其父狂言:我来摆平

易玄
2026-07-09 20:54:45
法国媒体曾称:整个中国都在散发一种精神

法国媒体曾称:整个中国都在散发一种精神

安安说
2026-09-05 10:06:49
全球长债收益率开始回落!沃什“抗通胀硬汉”形象立稳

全球长债收益率开始回落!沃什“抗通胀硬汉”形象立稳

财联社
2026-09-17 15:31:08
彻底弃用!利物浦 1600 万老将生涯终结!冬窗铁定离队

彻底弃用!利物浦 1600 万老将生涯终结!冬窗铁定离队

一隅非生
2026-09-17 10:21:38
随着高天意2助攻+上海申花2-1,亚冠二级联赛最新积分榜出炉

随着高天意2助攻+上海申花2-1,亚冠二级联赛最新积分榜出炉

侧身凌空斩
2026-09-17 22:07:56
王鹤棣报警后,医疗机构紧急声明!“下体注入玻尿酸栓塞”谣言有多离谱……

王鹤棣报警后,医疗机构紧急声明!“下体注入玻尿酸栓塞”谣言有多离谱……

新民周刊
2026-09-17 17:46:44
2026-09-18 03:04:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14014文章数 142733关注度
往期回顾 全部

科技要闻

影视飓风Tim反掰iPhoneDuo被质疑

头条要闻

永和豆浆视频被指擦边:女子穿蕾丝吊带 脱黑丝袜洗澡

头条要闻

永和豆浆视频被指擦边:女子穿蕾丝吊带 脱黑丝袜洗澡

体育要闻

逆转朝鲜,国足亚运队“啃老”过关

娱乐要闻

rapper赵涛恋情曝光!带甜馨妈妈散步

财经要闻

缺钱的追觅 隐藏的债务?

汽车要闻

小鹏G9L限时售23.18万 旗舰级的配置/诱人的价格

态度原创

时尚
艺术
教育
家居
公开课

潮流之向,自有回响——浪潮音乐大赏特别企划

艺术要闻

色彩狂魔比肖夫:评论家说他与表现主义调情,野兽派看了都沉默!

教育要闻

统一校服要来了?成都这个区,即将“抄作业”!

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版