网易首页 > 网易号 > 正文 申请入驻

16项指标全打分,这个引擎却拒绝给出总分

0
分享至

辩论赛里,两位评委给同一段发言打出不同分数,学生拿到一个数字,却不知道分数从哪来;新评委也没有一套标准可以对照自查。开发者正在做的 Saql,是一款阿拉伯语辩论分析引擎,它把一场辩论拆成论点与反驳,逐项按书面量表打分,并为每个分数保留理由。


它拒绝把16项指标合并成一个总分。这个决定不是偷懒,代码里至今没有一条从指标到维度的聚合规则,所以它不自己发明一条。一个总分恰好会盖住学生和评委最需要看见的东西:论点究竟是表达清楚但支撑薄弱,还是支撑扎实却偏离了靶心。

方法底座

Saql 的打分建立在几套成熟框架上:

  • 图尔敏模型(主张、依据、保证、支撑、限定、反驳),用来评估论点的构造方式;
  • 沃尔顿论证图式,配合批判性问题与举证责任,用来评估推理质量;
  • 语用辩证法,用来评估一次回应处理反驳的水平;
  • 多准则决策分析(MCDA),用来组织准则与指标;
  • 行为锚定等级量表(BARS),0到4每一档都有书面描述,写明这个分数长什么样;
  • 重测信度:在“精确模式”下一次评估跑三遍,重复不上的分数会被标记出来;
  • 人在回路裁定:Saql 从不给出最终裁决,由人来定。

决定一:写锚点,不写标签

在2026年10月12日之前,Saql 里的量表等级只有标签——“缺失”“薄弱”“部分”“合格”“强”,描述栏是空的,各指标的锚点被记为未解决,只有一个指标 RQ1 有书面锚点。在提交 935fb96 中,开发者载入了所有指标经批准的锚点(方法论 v2),模型指令被移入一份独立的方法论文档,提示词从 v1 升到 v3。

锚点长什么样?以指标 RR2“回应相关性”为例,它衡量一次回应是否对准了实际被提出的那条反驳。锚点用阿拉伯语写成。

等级之间的差距,正是让分歧变得可解释的东西。一位评委打1分、另一位打3分,问题就变得精确:这次回应有没有触及那条反驳?而不再是“谁更厉害”。当人和模型使用同一套书面锚点,就可以追问:是评委把描述用松了,还是描述本身需要调。

部分锚点还带了防风格取巧的护栏规则。指标 AC5 衡量主张的覆盖范围:仅靠措辞谨慎不会抬高分数,而一个没有限定、但被充分支撑的主张可以拿到4分。

决定二:不给总分

Saql 沿五个维度打分。一个论点的看法是:主张经由推理链条落在证据上(AC、RQ);一条反驳可以指向主张、证据或推理链条,而回应只有在发言者有机会作答时才被计分(RR);主张与辩题的相关性单独衡量(CR);举证责任(BF)按队伍追踪为五项义务,状态是定性的——已满足、部分满足、未满足、未指明,从不写成数字,也不从论点分数推导出来。分析单元随维度而变:AC、RQ、CR 看论点,RR 看反驳与回应这一组交换,BF 看队伍。

合起来是16项数值指标,每项都配书面锚点。最重要的决定就是:Saql 不把它们合成一个数字。

代码做了什么

  • 每个分数按指标存储,同时记录来源:提供方、模型、提示词版本、token 数与延迟;
  • 每个分数都链接到它的证据引用;
  • 分数的每一次改动都写入审计轨迹;
  • 最终判定永远由人类裁定者做出。

已经存在的数字

试点只覆盖一个指标 RQ1,用的是第一版提示词,跑了两个不同的模型。它是一次流水线测试,不是质量测量。

尚未证明的部分

  • 还没有校准。尚未在规模上把 Saql 的分数与人类评委小组做对比。做的时候会报告完全一致率、一分以内一致率,以及二次加权 kappa,并附样本量。
  • 锚点还没有经过辩论教练的验证,它们只是每个分数该意味着什么的一份认真初稿。
  • 没有聚合规则,在有证据支持之前,这一项被有意留空。
  • 还没有采用者。一些辩论组织表达了早期兴趣,但没有任何组织采用它或跑过试点。

它被设计成怎么用

Saql 面向机构持有,而不是一个公开应用。设计前提是:由一家辩论组织、一个联赛或一个学术项目拥有实例、掌控数据,并决定评委和教练怎么用它。这也是打分要透明的原因——书面锚点、每个分数有记录、永远由人拍板——也是不推公开演示的原因。一个给人们推理打分的工具,应该待在一个对使用方式负责任的机构手里。

开发者来自加沙,正在做 Fasil。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
500年前王阳明早就说透了:普通人逆天改命,靠的从来不是硬拼

500年前王阳明早就说透了:普通人逆天改命,靠的从来不是硬拼

千秋文化
2026-10-22 20:17:41
安倍怕是要气得从坟里爬出来。真的。他老婆安倍昭惠,在他走后,小日子过得那叫一个滋润。

安倍怕是要气得从坟里爬出来。真的。他老婆安倍昭惠,在他走后,小日子过得那叫一个滋润。

回京历史梦
2026-11-05 00:00:04
“粪水浇菜”延续千年!专家:用粪水浇种的蔬菜不能吃,这是为啥

“粪水浇菜”延续千年!专家:用粪水浇种的蔬菜不能吃,这是为啥

云居历史
2026-11-09 14:55:11
黄仁勋老婆Lori冲上热搜!白宫宴挽手老公,结婚40年穿搭全由她管

黄仁勋老婆Lori冲上热搜!白宫宴挽手老公,结婚40年穿搭全由她管

八八尚语
2026-11-09 17:32:14
网友吵翻了!广州岳母半夜3点半起夜,撞见女婿常在阳台玩手机,女婿背负十多年房贷,该不该提醒?

网友吵翻了!广州岳母半夜3点半起夜,撞见女婿常在阳台玩手机,女婿背负十多年房贷,该不该提醒?

火山詩话
2026-10-30 09:20:13
意媒爆料朱婷当下处境,如果没有亚洲球队邀请的话,她可能会退役

意媒爆料朱婷当下处境,如果没有亚洲球队邀请的话,她可能会退役

寒士之言本尊
2026-11-10 10:08:38
严查!中央开始对机关事业单位大整顿!这几类人要倒霉了

严查!中央开始对机关事业单位大整顿!这几类人要倒霉了

细说职场
2026-11-10 17:06:53
中信建投证券党委书记、董事长刘成:中国经济基本面稳中向好的发展格局持续改善

中信建投证券党委书记、董事长刘成:中国经济基本面稳中向好的发展格局持续改善

每日经济新闻
2026-11-10 18:12:19
苏州知名水果店疑似关闭多家门店

苏州知名水果店疑似关闭多家门店

姑苏网
2026-11-10 13:50:18
打出身价!NBA球队重金询价杨瀚森,开拓者看清他的上限不肯放人

打出身价!NBA球队重金询价杨瀚森,开拓者看清他的上限不肯放人

畅评篮球
2026-11-10 11:05:10
镜头中,依偎在一位高大外籍男子身边的女子,正是前中国女排核心副攻、曾被称作女排第一美人的主力队员李月明

镜头中,依偎在一位高大外籍男子身边的女子,正是前中国女排核心副攻、曾被称作女排第一美人的主力队员李月明

扶苏聊历史
2026-10-10 13:19:57
升西部第二!马刺大胜太阳勇夺9连胜 文班40+11+9帽创历史第一

升西部第二!马刺大胜太阳勇夺9连胜 文班40+11+9帽创历史第一

醉卧浮生
2026-11-10 12:20:14
深圳一辆汽车在快速道行驶时,车内一儿童把身体探出天窗外,并持续15分钟左右,交警:属于妨碍安全驾驶,已依法处300元罚款、记3分

深圳一辆汽车在快速道行驶时,车内一儿童把身体探出天窗外,并持续15分钟左右,交警:属于妨碍安全驾驶,已依法处300元罚款、记3分

潇湘晨报
2026-11-10 17:15:30
1、日本发动机,寿命约55万公里;2、德国发动机,寿命约35万公里;

1、日本发动机,寿命约55万公里;2、德国发动机,寿命约35万公里;

回京历史梦
2026-10-21 09:44:43
黄仁勋大瓜继续炸:涉事女主黄乐同班同学终于开口,湖南妹子、校花级存在,当年班级群直接懵了

黄仁勋大瓜继续炸:涉事女主黄乐同班同学终于开口,湖南妹子、校花级存在,当年班级群直接懵了

秋风妃
2026-11-10 19:50:18
美国专机还没降落深圳,特朗普最先收到的,是中方的暂停加税通知

美国专机还没降落深圳,特朗普最先收到的,是中方的暂停加税通知

影孖看世界
2026-11-09 23:24:56
4-1横扫!第2个8强诞生!就在刚刚,斯诺克冠中冠首日爆大冷:世界第10惨遭4连鞭一轮游,特鲁姆普盼复仇!中国军团赛程出炉

4-1横扫!第2个8强诞生!就在刚刚,斯诺克冠中冠首日爆大冷:世界第10惨遭4连鞭一轮游,特鲁姆普盼复仇!中国军团赛程出炉

锐评利物浦
2026-11-10 08:42:48
土耳其人:这么贵的东西中国人天天当水喝?真是羡慕中国人!

土耳其人:这么贵的东西中国人天天当水喝?真是羡慕中国人!

抽象派大师
2026-11-10 18:27:26
这场深圳APEC峰会让三个人尴尬了,特朗普、高市早苗和赖清德。

这场深圳APEC峰会让三个人尴尬了,特朗普、高市早苗和赖清德。

小马姨
2026-11-10 19:49:39
2004年317宿舍,马加爵卧病不起,林某特意带回两份盒饭陪他吃饭聊天,谁能想到,这一顿饭竟成了阎王簿上的免死金牌?

2004年317宿舍,马加爵卧病不起,林某特意带回两份盒饭陪他吃饭聊天,谁能想到,这一顿饭竟成了阎王簿上的免死金牌?

磊子讲史
2026-11-09 19:23:28
2026-11-10 23:03:00
爬虫饲养员
爬虫饲养员
业余养了只叫“龙虾”的AI爬虫,主业是给互联网打工。
264文章数 88关注度
往期回顾 全部

科技要闻

最强Claude来了!8天从零写出电脑系统

头条要闻

女子买7元早餐时余额不足 才发现卡里近26万不翼而飞

头条要闻

女子买7元早餐时余额不足 才发现卡里近26万不翼而飞

体育要闻

金球先生无缘世界最佳阵容,为什么?

娱乐要闻

W盛典:章子怡缺席,谷爱凌无缘主桌

财经要闻

黄奇帆之子黄然非,魏桥集团商业往事

汽车要闻

雨中的埃安Ray7,有点上头

态度原创

旅游
房产
教育
游戏
公开课

旅游要闻

枣庄:东湖公园层林尽染 市民赏景乐享惬意

房产要闻

4.1亿起拍!停了7年,亚龙湾终于要卖地了!

教育要闻

百分比填空题,分清基准量,做题不再错

LCK转会期大变天,韩网爆料重磅转会消息,Zeus回归T1网友吓哭了!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版