网易首页 > 网易号 > 正文 申请入驻

我花两周给Claude做了个技能,测完发现全是坑

0
分享至

200行文档丢进文件夹,重启,搞定——这是Anthropic官方教程教的技能开发流程。我照做了,然后花了十倍时间回答一个问题:它真的有用吗?

一、技能开发的幻觉: shipped ≠ working


技能(Skill)是Anthropic给Claude Code做的功能扩展机制。你把团队的编码规范、框架用法写成Markdown,存进指定目录,Claude就能在对话中自动调用。

官方流程极其顺滑:写文档、放文件、重启。三分钟后你就能跟同事说"我们有个Claude技能了"。

但两个关键问题被这个流程完全掩盖:

第一,这200行提示词真的比基础模型更强吗?还是只是给本来就会的事加了层包装?

第二,描述语(description)和用户实际提问方式匹配吗?该触发时没触发,不该触发时乱插嘴,你根本看不见。

我选了@ngrx/signals——Angular的状态管理库——做实测对象。这个库足够新,Claude训练数据覆盖不全,是技能发挥价值的典型场景。

二、A/B测试:技能确实有用,但代价明确

我设计了5个任务,41条断言(assertion)。每个断言在技能定稿前就写好,作为验收标准而非事后确认。

核心发现:技能把通过率从84%拉到100%。

但账不能只算一头。每次调用额外消耗14秒墙钟时间、约12,000个token。按Sonnet 4.6的输入定价,单次成本约0.04美元。

这个成本结构意味着:技能适合复杂、低频、高风险的代码生成任务,不适合快速迭代场景。你的团队得自己算这笔账。

方法论备注:我每个配置只跑了一次,不是三次取平均。下文中的±值是5个eval之间的离散度,不是标准差。

三、描述优化器:跑三轮,全白跑

技能描述语决定触发时机。Anthropic今年3月上线的新工具带了描述优化循环:自动迭代描述,看哪版触发率最高。

我跑了三轮。最终结果:没一版比我手写的好。

这不是我一个人的遭遇。Anthropic自己拿6个内置文档生成技能做测试,"5个有提升"——言下之意,1个没提升。造系统的人尚且如此,你的自定义技能几乎肯定有问题。

更强的证据来自Vercel。2026年1月,他们发了一篇实测:AGENTS.md在agent eval中表现优于Skills。

Vercel的测试场景是Next.js 16任务集。关键数据:56%的情况下,agent明明有权限调用技能,却根本没调用。触发失败率过半。

他们的结论很直接:"跳过Skills,把文档内联进对话。"

我不完全同意。对于模型已经熟悉的库,Skills的形态仍然有价值——团队特定惯用法、编码偏好,这些用渐进式披露比每次塞几千token风格指南更优雅。

但测量结论我和Vercel完全一致:没有eval套件,你根本不知道自己技能在干什么。

四、100%通过率:饱和信号,不是终点

我的v2技能最终通过了全部41条断言。这听起来是成功,其实是警告。

Eval饱和意味着你的测试集已经失去区分度。可能是任务太简单,可能是断言写得太松,也可能是技能过度拟合了测试集。无论哪种,你都不再能从中获得有效信号。

健康的eval应该像筛子:总有部分任务通不过,逼你持续迭代。100%是停滞的开始,不是质量的证明。

五、四个发现,多数团队一个都没测

这趟实测拆出四个可量化的维度:

能力增益(84%→100%)、成本代价(14秒+12,000token)、描述优化失效(三轮无改进)、eval饱和(100%通过率)。

Anthropic 3月更新的技能创建工具把test/measure/refine流程产品化了。但工具只是工具,用不用、怎么用,是团队选择。

现状是:绝大多数技能开发者写完Markdown就ship,四个维度一个不测。技能加载了,输出看着还行,假设它在工作——这个假设可以持续数月。

数据收束:84%到100%的通过率提升,代价是每次调用0.04美元和14秒延迟。56%的触发失败率意味着你的技能可能一半时间在划水。描述优化器三轮迭代零改进,100%通过率反成警报。四个数字,四个盲区。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
吉林省再下“一腐”!四年前他曾是“临危受命”的人

吉林省再下“一腐”!四年前他曾是“临危受命”的人

坠入二次元的海洋
2026-05-02 01:10:47
上嫁吞针?这一次,和强势婆家同住的张豆豆,给所有女生提了个醒

上嫁吞针?这一次,和强势婆家同住的张豆豆,给所有女生提了个醒

她时尚丫
2026-05-01 22:12:19
于东来再次确认:今年开始,胖东来落实像学校一样的性质,力争工作三年内的员工能获得毕业综合技术能力,发公司认可的毕业证、技术等级证

于东来再次确认:今年开始,胖东来落实像学校一样的性质,力争工作三年内的员工能获得毕业综合技术能力,发公司认可的毕业证、技术等级证

极目新闻
2026-05-01 12:26:46
深度 | 特朗普“炮轰”欧洲三国,要用撤军拿捏“不听话”盟友?

深度 | 特朗普“炮轰”欧洲三国,要用撤军拿捏“不听话”盟友?

上观新闻
2026-05-01 21:29:41
下一任国民党主席浮出水面,无论谁接班,统一只是时间问题

下一任国民党主席浮出水面,无论谁接班,统一只是时间问题

小影的娱乐
2026-05-01 18:50:45
85-64,广东击败广州,赛后还有4个好消息,杜锋令人捉摸不透

85-64,广东击败广州,赛后还有4个好消息,杜锋令人捉摸不透

小徐讲八卦
2026-05-02 05:45:26
4月车市:零跑7万杀疯了,比亚迪海外狂飙,蔚来的"三品牌"都很难!

4月车市:零跑7万杀疯了,比亚迪海外狂飙,蔚来的"三品牌"都很难!

ZAKER新闻
2026-05-01 23:48:40
杜锋发言引球迷不满,辽宁主帅有信心拿下生死战,赵继伟带病出战

杜锋发言引球迷不满,辽宁主帅有信心拿下生死战,赵继伟带病出战

中国篮坛快讯
2026-05-02 00:03:53
今日!CCTV5直播国乒孙颖莎等出战+NBA湖人,5+转CBA,网络转中超

今日!CCTV5直播国乒孙颖莎等出战+NBA湖人,5+转CBA,网络转中超

晚池
2026-05-02 01:21:34
这才是真正的美人!五十几岁了依然风韵犹存!

这才是真正的美人!五十几岁了依然风韵犹存!

小椰的奶奶
2026-05-02 02:52:48
香港的现代版姨太:签下保密条约住在珠海别墅,年纪过30就被赶走

香港的现代版姨太:签下保密条约住在珠海别墅,年纪过30就被赶走

白云故事
2025-09-05 21:55:03
我军顶级的军事天才只有一人,他打的仗,西点军校复盘也打不出来

我军顶级的军事天才只有一人,他打的仗,西点军校复盘也打不出来

秀心文雅
2026-03-27 10:13:04
伊朗议会议长:伊朗将迎来新的建设阶段

伊朗议会议长:伊朗将迎来新的建设阶段

财联社
2026-05-02 00:16:05
五一前后,少买这5样蔬菜,都是反季节,不好吃还没营养,早知道

五一前后,少买这5样蔬菜,都是反季节,不好吃还没营养,早知道

阿龙美食记
2026-04-28 14:06:24
美股存储板块四大龙头盘中均创记录新高

美股存储板块四大龙头盘中均创记录新高

财联社
2026-05-01 22:21:12
把瑜伽裤穿成日常的松弛感美女

把瑜伽裤穿成日常的松弛感美女

只要高兴就好
2026-04-13 14:30:30
为什么要逼孩子背课文:语文130分的真相,从来不在补习班

为什么要逼孩子背课文:语文130分的真相,从来不在补习班

户外阿毽
2026-05-01 09:30:51
疯狂!种马男星沃伦睡过12775名女友,性欲成瘾缠着女友不让下床

疯狂!种马男星沃伦睡过12775名女友,性欲成瘾缠着女友不让下床

钱小刀娱乐
2026-04-14 10:39:13
德泽尔比:必须改变老往边路带的习惯;我用眼神触及球员大脑

德泽尔比:必须改变老往边路带的习惯;我用眼神触及球员大脑

懂球帝
2026-05-02 05:50:06
1死11伤!31岁男子在成都一路口肇事后逃逸终被抓!排除毒、酒驾

1死11伤!31岁男子在成都一路口肇事后逃逸终被抓!排除毒、酒驾

声情专递
2026-05-01 21:09:12
2026-05-02 06:43:00
Ping值焦虑
Ping值焦虑
有态度网友ytd
1997文章数 31关注度
往期回顾 全部

科技要闻

DeepSeek发布多模态论文又连夜删除

头条要闻

美国也搞起"人肉代购" "去墨西哥买中国车"教程疯传

头条要闻

美国也搞起"人肉代购" "去墨西哥买中国车"教程疯传

体育要闻

无奈!约基奇:这要在塞尔维亚 全队早被炒了

娱乐要闻

马筱梅产后身材恢复超好 现身户外直播

财经要闻

GPU神话松动,AI真正的战场变了

汽车要闻

限时9.67万起 吉利星越L/星瑞i-HEV智擎混动上市

态度原创

手机
数码
游戏
公开课
军事航空

手机要闻

记录一场说走就走的旅行 长假影像手机入手指南

数码要闻

索尼推出HT-A7100回音壁:搭60智能穹顶声场2.0技术,5282元

PS玩家团结起来!请愿复活第一方3A 耗时7年却被取消

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗:持续推进海上封锁的行为不可容忍

无障碍浏览 进入关怀版