网易首页 > 网易号 > 正文 申请入驻

报告信息量差3倍?Manus团队用两个指标量化AI写作质量

0
分享至

同一个主题,让不同模型写研究报告,有的能给出7个关键事实点,有的只写出2个,剩下全是"深刻洞察"式的空话。Manus团队在评测实践中发现,这种差距可以被精确量化——他们构建了两个指标:「信息量」和「隐喻率」,用来衡量AI生成报告的质量。

这两个指标的设计思路很直接。信息量,就是让LLM逐篇抽取报告中的事实点和数据点数量,横向对比不同模型的信息密度。隐喻率,则是统计每百句话中出现比喻表达的次数,用来反映模型的写作风格和可读性。团队用这两个指标跑了9个主流模型,包括GPT-5.6、Claude Fable-5、Opus-5、Gemini-3.7-flash、Grok-4.6等,得出了几组有意思的对比数据。


信息量:GPT为什么"话多但料少"

在信息量测试中,同主题下模型A能写出7个事实点(比如iPod发布时间、硬盘规格、容量、接口等),模型B只写了2个事实点,其余全是评价修饰语。Manus团队发现,GPT模型倾向于写完整的总结笔记,导致信息损失更高。他们通过Prompt规范笔记写法后,GPT的信息量得到了有效改善。

更值得注意的是,GPT的Search工具调用平均次数甚至高于Claude模型。如果信息量低不是因为信息接触得少,那也许就是发生了某种信息的丢失——模型接触到了信息,但在生成过程中丢掉了。

隐喻率:文风背后的信息损耗

隐喻率这个指标,统计的是每百句话中的比喻次数。Manus团队把隐喻定义为一种"语言函数":把x词映射成y词,而y的信息量一定小于等于x。也就是说,隐喻本质上会带来信息损失——句子变得更抽象复杂,读者需要额外处理才能理解原意,报告的可读性随之下降。

实测数据里,各模型的文风差异很明显:

  • Fable-5隐喻率最高,偏好身体/有机体表达
  • GPT-5.6最克制,几乎不用比喻
  • Gemini偏宏大词汇
  • Grok偏商业竞争隐喻

不过团队也强调,低隐喻率不等于绝对更易读,但它是一个可操作的Signal——至少能帮你定位哪些模型在"用修辞掩盖信息密度不足"。

指标设计:有效且可靠,缺一不可

Manus团队指出,好的指标必须同时满足两个条件:有效性和可靠性。有效的指标能让Signal简洁直接地反映模型特点,分数高低能帮助定位产品问题;可靠的指标则要求可量化、自动化评测稳定。

实际操作中,隐喻率的标注并不简单。团队要求排除日常无感隐喻和术语比喻,并且每个标注都要输出字面替换作为反向校验——确保标注者真的理解了原句,而不是凭感觉打标签。

这套方法论背后有一个更本质的判断:研究报告的质量取决于两个维度——包含哪些信息(决定用户能否读到高质量内容),以及这些信息如何组织(决定用户能否低成本理解)。信息量和隐喻率只是从这两个维度出发构造的众多可量化指标中的两个。

团队自己也承认,这仅是海量可挖掘Signal中的一小部分。比如信息量这个指标,就还有未竟的话题:怎么防止一个模型提升信息量的同时也提升了废话的数量?如何把主观感受通过一个简洁优雅的切口量化出来,是最需花心思的部分,指标的有效性也需要长期的线上数据跟踪来验证。

对于做AI产品评测的人来说,这套思路的参考价值在于:别只盯着"好不好用"这种主观评价,把质量拆成可量化的维度,用数据说话,才能发现模型之间真正的差距。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
袁咏仪晒20岁儿子送的生日鲜花!网友:这还是因妈妈太严厉要张智霖换老婆的魔童吗?

袁咏仪晒20岁儿子送的生日鲜花!网友:这还是因妈妈太严厉要张智霖换老婆的魔童吗?

师维
2026-09-05 18:40:29
A股:突传一重磅消息!股民提前做好准备,下周一行情将没有悬念

A股:突传一重磅消息!股民提前做好准备,下周一行情将没有悬念

虎哥闲聊
2026-09-05 20:53:45
事情闹大了,首尔紧急发声,宁得罪自己人,也不能落得高市的下场

事情闹大了,首尔紧急发声,宁得罪自己人,也不能落得高市的下场

二大爷观世界
2026-09-05 11:56:28
恩爱12年难抵残酷现实?46岁高圆圆现状曝光,赵又廷的处境太揪心

恩爱12年难抵残酷现实?46岁高圆圆现状曝光,赵又廷的处境太揪心

老塕是个手艺人
2026-09-05 16:14:32
萨巴比赛因大麻味太冲一度被迫暂停,赛后:再闻下去我也要上头了

萨巴比赛因大麻味太冲一度被迫暂停,赛后:再闻下去我也要上头了

网球之家
2026-09-05 23:27:33
世界田联赞严子怡是天才少年 一晚诞七项赛会纪录拉塞尔跑出12秒20

世界田联赞严子怡是天才少年 一晚诞七项赛会纪录拉塞尔跑出12秒20

劲爆体坛
2026-09-06 07:19:02
周文强被抓了,良币驱逐劣币的时代正在来临

周文强被抓了,良币驱逐劣币的时代正在来临

创始人笔记
2026-09-05 00:10:58
火化工作人员说出大实话:人死后,骨灰根本不需要保存!

火化工作人员说出大实话:人死后,骨灰根本不需要保存!

阿甘天天传
2026-09-04 11:54:49
原来这些行为都是上了年纪的症状,我以为我变健康了,原来是老了

原来这些行为都是上了年纪的症状,我以为我变健康了,原来是老了

另子维爱读史
2026-09-05 21:24:19
武大学术圈妲己上位后续:女方被曝更多猛料,她从小就是乖乖女!

武大学术圈妲己上位后续:女方被曝更多猛料,她从小就是乖乖女!

小娱乐悠悠
2026-09-05 14:51:35
日本G20上脸丢大了!装受害者喊中国撤销管制,被一句话堵回去!

日本G20上脸丢大了!装受害者喊中国撤销管制,被一句话堵回去!

福建睿平
2026-09-05 11:32:59
毛利高过爱马仕:中国最会赚钱的男装,是如何炼成的?

毛利高过爱马仕:中国最会赚钱的男装,是如何炼成的?

最商业Plus
2026-09-05 14:18:38
年薪4160万!火箭7子薪资排名,阿门新合同小胜申京!1人已掉队

年薪4160万!火箭7子薪资排名,阿门新合同小胜申京!1人已掉队

熊哥爱篮球
2026-09-06 10:04:41
大S闺房曝光!太过诡异像灵堂引人不适,难怪大师预言她活不过50岁

大S闺房曝光!太过诡异像灵堂引人不适,难怪大师预言她活不过50岁

瞎说娱乐
2026-08-27 11:09:48
惊天发现!中本聪真身被曝光,比特币其实是美国CIA的蜜罐陷阱

惊天发现!中本聪真身被曝光,比特币其实是美国CIA的蜜罐陷阱

三言四拍
2026-09-04 20:38:25
决胜盘0-5落后连扳7局,郑钦文惊天逆转晋级美网16强,赛后回应:职业生涯里首次遇到0‑5落后再追回来,我想咬住每一分,不要放弃

决胜盘0-5落后连扳7局,郑钦文惊天逆转晋级美网16强,赛后回应:职业生涯里首次遇到0‑5落后再追回来,我想咬住每一分,不要放弃

鲁中晨报
2026-09-06 07:59:03
姐妹俩公开爸爸的老相好:睡我爸、抢我家钱,凭什么你还成了教授?

姐妹俩公开爸爸的老相好:睡我爸、抢我家钱,凭什么你还成了教授?

一点沸
2026-09-04 15:58:00
最吓人的蛇不是眼镜王蛇,是热情扑向你的海蛇

最吓人的蛇不是眼镜王蛇,是热情扑向你的海蛇

薛定谔的BUG
2026-09-05 07:32:29
A股:2个消息来临,A股,很可能要开启大级别的趋势了?

A股:2个消息来临,A股,很可能要开启大级别的趋势了?

财经大拿
2026-09-06 07:20:16
全世界只剩2架,我国有一架,美国出3000万购买被拒

全世界只剩2架,我国有一架,美国出3000万购买被拒

疯狂的小历史
2026-09-05 10:01:05
2026-09-06 10:24:49
闪存猎手
闪存猎手
全网蹲好价的野生捕手,算力与羊毛都不可辜负。
225文章数 73关注度
往期回顾 全部

科技要闻

DeepSeek被曝将采购16万颗华为昇腾950DT

头条要闻

大桥步道桥板脱落致行人坠亡 当地:断裂风险不好察觉

头条要闻

大桥步道桥板脱落致行人坠亡 当地:断裂风险不好察觉

体育要闻

本西蒙斯加盟国王,不管怎样,回来就好

娱乐要闻

阿Sa蔡卓妍首度求婚细节,感动落泪

财经要闻

被曝试药后死亡,药企董事竟怒怼记者

汽车要闻

带升降立标MPV 岚图梦想家9预售价42.99万起

态度原创

亲子
教育
旅游
房产
公开课

亲子要闻

揪心一幕:幼儿园开学,孩子哭闹、甚至逃跑,家长不舍地扒墙观望

教育要闻

三年级培优题,求图形面积

旅游要闻

免票、优惠!“一张机票游大理”来了!

房产要闻

突发重磅!海口出台楼市新政!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版