网易首页 > 网易号 > 正文 申请入驻

阿里开源这套诊断工具,6个维度给AI技能"照CT"

0
分享至


阿里通义实验室放出了一套叫SkillCompass的开源工具,专门给AI Agent的技能做体检。不是看跑没跑通,而是看哪里快坏了——六个维度逐项打分,最弱的一环标红,修完再测,测完再修。

这事挺有意思。现在做AI Agent的人,十个里有九个都在干同一件事:技能出问题了,先改描述,再加例子,最后调指令。改完发现trigger率掉了,或者别的地方崩了。循环往复,越调越虚。

SkillCompass的作者说,这不是技能写法的问题,是测量的问题。没有诊断的优化,有一半概率是在帮倒忙。

一个SQL优化器的"误诊"现场

作者举了个自己的例子。他有个处理SQL查询的技能,复杂查询时输出"感觉不对"。于是他开始常规操作:重写描述,更具体了,trigger率反而下降,错误输出还在;重写核心指令,JOIN能跑了,子查询崩了;加了八个few-shot示例,prompt膨胀,整体质量下滑。

三轮折腾,回到原点,甚至更差。

问题出在哪?他用SkillCompass一测,D4(功能性)亮红灯——技能一旦被触发,根本处理不了JOIN、子查询和CTE。但描述是最显眼的部分,所以他一直在改描述。功能性缺口,描述写得再花也没用。

这就像胃疼吃止疼片,药没错,地方错了。

六个维度的"体检单"

SkillCompass把技能质量拆成六层:

D1 Description(描述质量):技能定义是否清晰、边界是否明确、意图是否好懂。这是用户和系统理解"这技能干嘛用"的第一道门。


D2 Trigger(触发精度):该触发时触发,不该触发时沉默。漏触发和误触发都算失败。

D3 Security(安全边界):权限控制、数据隔离、注入防护。D3是硬门槛——只要出现Critical级安全问题,整体直接FAIL,没有商量余地。

D4 Functional(功能实现):触发之后,活儿干得怎么样。JOIN能不能跑、子查询能不能解、异常流有没有覆盖。D4权重最高,因为技能的核心任务就是干活。

D5 Output(输出质量):格式对不对、信息全不全、用户好不好用。

D6 Meta(元质量):版本管理、文档、可维护性。现在不卡,以后还债。

跑一遍/skill-compass evaluate {skill},六维雷达图直接出来。哪项拖后腿,一目了然。

"先测后修"的循环

工具的设计逻辑是:评分→锁定最弱项→针对性修复→再评分验证→下一轮。每个改动都要有数据证明有效,才能进入下一环。

这和传统调优的区别在于:以前是"我觉得这里有问题",现在是"D4比D2低23分,先搞D4"。目标具体了,动作才能精准。

作者提到一个细节:D3的安全问题一旦Critical,直接FAIL,总分再高也没用。这个设计很产品经理——安全不是加权平均的筹码,是生死线。

代码已经开源,MIT协议。GitHub仓库里除了核心引擎,还带了评估数据集和修复建议模板。作者说,这套方法是从自己反复踩坑里长出来的,现在拿出来,省别人再绕一遍。

SkillCompass的评估报告里有个细节:每次跑完会生成"修复优先级队列",不是让你同时改六个地方,而是按分数差距排序,一次只攻一个山头。这种克制,在AI工具里不多见。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
重庆这4个坝坝茶,我连去了三天!第一个就让人不想回家

重庆这4个坝坝茶,我连去了三天!第一个就让人不想回家

房产衫哥
2026-03-28 14:42:03
提醒:冠心病急救药硝酸甘油,这5种情况千万别用!

提醒:冠心病急救药硝酸甘油,这5种情况千万别用!

药师方健
2026-03-25 22:11:49
洞庭湖采藜蒿女子遇难,知情人说她平时从不独自去,那天却一人

洞庭湖采藜蒿女子遇难,知情人说她平时从不独自去,那天却一人

观察鉴娱
2026-03-28 09:33:11
胡塞武装正式参战!导弹打向特拉维夫!以色列三面受敌或走向崩溃

胡塞武装正式参战!导弹打向特拉维夫!以色列三面受敌或走向崩溃

健身狂人
2026-03-28 22:35:21
伊朗终于开窍,目标对准海水淡化厂,以色列抵挡不住,百余人伤亡

伊朗终于开窍,目标对准海水淡化厂,以色列抵挡不住,百余人伤亡

你得漂亮
2026-03-24 22:59:34
周郎才尽了?从华语天王到全网群嘲,周杰伦到底做错了什么

周郎才尽了?从华语天王到全网群嘲,周杰伦到底做错了什么

无处不风景love
2026-03-26 15:19:23
70岁吕良伟香港半马轻松拿下,引得周润发调侃:“吃了防腐剂”

70岁吕良伟香港半马轻松拿下,引得周润发调侃:“吃了防腐剂”

韩小娱
2026-03-27 17:34:28
美容院老板娘大实话:脱了衣服,女人的差距根本不在脸上!

美容院老板娘大实话:脱了衣服,女人的差距根本不在脸上!

夜深爱杂谈
2026-03-08 21:28:24
广东91岁老人让儿子保管900多万养老钱,儿媳去世前却将300多万分给自己姐姐,老人瞬间傻眼,法院:钱是保管不是赠与,全额返还

广东91岁老人让儿子保管900多万养老钱,儿媳去世前却将300多万分给自己姐姐,老人瞬间傻眼,法院:钱是保管不是赠与,全额返还

观威海
2026-03-18 22:11:07
吉林女歌手与知名男演员,宣布结婚生子

吉林女歌手与知名男演员,宣布结婚生子

新浪财经
2026-03-28 22:00:57
张艺谋:第一次见她,我对她说,你等着我们来找你,不要乱演电影

张艺谋:第一次见她,我对她说,你等着我们来找你,不要乱演电影

秀语千寻
2026-02-22 19:28:42
一舞封神嫁东莞首富,现为七岁孩妈

一舞封神嫁东莞首富,现为七岁孩妈

章幃户外
2026-03-27 17:55:27
山东省人民政府发布一批人事任免

山东省人民政府发布一批人事任免

呼呼历史论
2026-03-28 12:04:37
大家要做好准备,若不出意外的话,下个月,楼市或将迎来4大转变

大家要做好准备,若不出意外的话,下个月,楼市或将迎来4大转变

平说财经
2026-03-28 14:39:10
今晚有阵雨!别忘带伞!预计持续时间——

今晚有阵雨!别忘带伞!预计持续时间——

BRTV新闻
2026-03-28 15:26:18
美媒:伊朗导弹再次造成多架美军加油机受损

美媒:伊朗导弹再次造成多架美军加油机受损

环球网资讯
2026-03-28 06:28:12
湖南卫视又出王炸!《归栾》张凌赫逆袭路太上头

湖南卫视又出王炸!《归栾》张凌赫逆袭路太上头

情感大头说说
2026-03-26 15:42:33
热度破纪录,男主遭群嘲!《白日提灯》首播炸出古偶最大争议:顶流+巨制=必爆?

热度破纪录,男主遭群嘲!《白日提灯》首播炸出古偶最大争议:顶流+巨制=必爆?

东方不败然多多
2026-03-29 01:51:57
追求字母哥,5换1方案出炉,湖人也没有想到,状元郎沦为交易筹码

追求字母哥,5换1方案出炉,湖人也没有想到,状元郎沦为交易筹码

体育大朋说
2026-03-28 21:19:11
前央视主持人赵普:警惕如今街头巷尾泛滥的日本武士道风格字体。

前央视主持人赵普:警惕如今街头巷尾泛滥的日本武士道风格字体。

南权先生
2026-03-24 15:25:48
2026-03-29 02:40:49
碳基打工人
碳基打工人
坐标北京,靠咖啡续命,靠小红书下饭的普通人类。
387文章数 4关注度
往期回顾 全部

科技要闻

华为盘古大模型负责人王云鹤确认离职

头条要闻

伊朗议长:伊朗将加速以军崩溃

头条要闻

伊朗议长:伊朗将加速以军崩溃

体育要闻

“我是全家最差劲的运动员”

娱乐要闻

陈牧驰陈冰官宣得子 晒一家三口握拳照

财经要闻

卧底"科技与狠活"培训:化工调味剂泛滥

汽车要闻

置换补贴价4.28万起 第五代宏光MINIEV正式上市

态度原创

家居
数码
手机
教育
公开课

家居要闻

曲线华尔兹 现代简约

数码要闻

苹果或重启与长江存储合作 国行机型拟采用国产NAND

手机要闻

华为手机全面回归!畅享90 Pro Max下周首销:1699元起

教育要闻

严丝合缝的教材阅读法՞⩌⌯⩌՞

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版