网易首页 > 网易号 > 正文 申请入驻

为什么只测第一次回答的面试题,筛不出能扛事的工程师?

0
分享至

结构化输出是便宜模型最先崩的地方。所以真正值得看的工程能力,不在第一次回答,而在它出错之后的恢复路径。一道只给"顺利路径"打分的笔试题,奖励的是候选人挑了个配合的提示词、抽到了一次好运的样本。

反过来,一道给"修复循环"打分的笔试题,奖励的是候选人假设输出会漂移、能测量漂移、并在修复失效时果断失败关闭。这套题包定义了任务书、加权评分表、参考实现,以及把两类候选人区分开的失败模式。

交给候选人的任务书

做一个端点,把自由文本的客服工单转成一条通过校验的记录。记录必须匹配给定的 JSON schema。模型可能返回非法输出,你的任务是在没有人工介入的情况下恢复。

硬性约束保证不同候选人之间可比:

  • 只注入一个生成函数,候选人不得中途更换供应商。
  • 一次校验失败最多触发两次修复尝试,之后调用返回类型化失败。
  • 端点必须为每个请求记录尝试次数和确切的校验错误。
  • 测试套件必须离线跑在录制的固定样本上,不访问网络。
  • Markdown 代码围栏、正文前言、尾部评论必须被显式处理,不能用一揽子正则糊过去。

schema 刻意做得很小但不平凡:ticket_id(字符串)、severity(low 或 high 的枚举)、components(字符串数组)、customer_impact(布尔值)。手写校验器和引入库的候选人都可以接受,只要失败信息足够具体,能回灌进修复提示词。

这道题不要求什么

任务书从不要求包一层单一厂商的 SDK,也从不要求把错误藏起来的重试逻辑。评审应把精心设计的重试退避视为干扰项——被打分的问题是提示词修复质量。一个加了指数退避却没有尝试遥测的候选人,优化错了变量。

评分表按评审速度加权,两名评审大约十五分钟能过一遍。其中占 40% 的那一行是唯一需要细读代码的,也正是能预测值班表现的那一行。

参考实现里,校验器手写,让练习保持零依赖,并把解析和校验当作两类独立的失败。修复循环保持任务文本稳定,只替换错误块,这样各次尝试的 token 用量大致持平。

循环最多修复两次。解析失败时,提示词追加"只返回一个 JSON 对象,不要正文、不要代码围栏、不要尾部文本";校验失败时,提示词追加具体的错误清单,要求只返回修正后的 JSON 对象。预算耗尽则返回 validation_budget_exhausted,并带上完整的尝试轨迹。

测试套件必须包含的固定样本

  • clean.json——第一次就合法的对象,循环必须返回 attempts: 1。
  • fenced.md——同一个对象被 JSON 代码围栏包住,循环不得消耗一次修复尝试。
  • bad-enum.json——severity 取值超出枚举,随后给出修正后的对象。
  • truncated.json——每次尝试都是未闭合的对象,循环必须返回 validation_budget_exhausted。

截断这个用例最该被评审看重,因为它证明候选人知道什么时候停。一个永不放弃的循环能通过每一次手动演示,却会在供应商降级时于生产环境翻车。

换成免费端点后,练习变了什么

离线固定样本能证明控制流,却说明不了模型面对一个它没见过的错误块会怎么反应。把同一个循环跑在实时端点上,能暴露出"点名失败路径的修复提示词"和"把整个 schema 重述一遍的修复提示词"之间的差别。这个阶段用免费模型访问就够了,因为量只有几百次短调用,目标是看漂移,不是看吞吐。

免费服务器选项的意义在另一处:它让评审通过 HTTP 打端点,而不是跑在候选人的笔记本上,于是尝试日志在评审过程中就是可观察的。

常见失败模式

  • 只给第一次回答打分。候选人拿一个干净样本自评,会报出固定样本已经证伪的成功。
  • 修复提示词把一切都重发一遍。把 schema、任务和候选人的完整历史全附上,只会让每次尝试变贵,不会让修复变好。
  • 静默剥围栏。一个宽松到剥掉任何反引号内容的正则,是在掩盖解析失败,而不是给失败分类。
  • 无界循环。在生成外面套 while (true) 看起来很有韧性,却是投稿被拒最常见的原因。
  • 把校验通过当成事实正确。符合 schema 不等于语义正确,一个看起来合理的 ticket_id 仍然可能是错的。
  • 没有尝试遥测。没有逐次错误,没人分得清是修复失败了,还是压根没试过。

谁不该用这套题

招 UI 偏重岗位的团队从这里拿不到什么信号;schema 还不稳定的团队应该先把 schema 定下来。硬件受限的候选人不应被要求本地托管模型,因为被打分的产物是循环而不是运行时。需要逐字节确定性输出的场景应该用语法约束解码器,而不是修复循环,因为修复是缓解手段,不是保证。

如果目的是看一个人在模型以可信方式出错时会怎么做,这套题包跑起来便宜,也很难造假。保留评分表和失败模式,把 schema 换成你自己领域的即可。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
小杨哥回归首秀惨淡收场,一夜涨粉3万,场观千余人,时代恐怕真的一去不复返了

小杨哥回归首秀惨淡收场,一夜涨粉3万,场观千余人,时代恐怕真的一去不复返了

起点财经
2026-10-17 16:49:28
一嗅觉敏锐女子食用肉包口感异常,边呕吐边报警:这馅是人肉的

一嗅觉敏锐女子食用肉包口感异常,边呕吐边报警:这馅是人肉的

罪案洞察者
2025-05-09 11:24:17
东莞地标一网红餐厅倒闭了!

东莞地标一网红餐厅倒闭了!

东莞好生活
2026-10-20 00:09:41
太阳旁拍到“外星母舰”?我们找到了12分钟后的照片

太阳旁拍到“外星母舰”?我们找到了12分钟后的照片

Science科学说
2026-10-19 11:48:06
“经常锻炼”被推翻?专家建议:过了70岁,最好保持5个锻炼习惯

“经常锻炼”被推翻?专家建议:过了70岁,最好保持5个锻炼习惯

荷兰豆爱健康
2026-10-19 18:41:23
黄磊现身乌镇戏剧节,回应“没能减肥成功”:我已经55岁了,胖一点也很正常

黄磊现身乌镇戏剧节,回应“没能减肥成功”:我已经55岁了,胖一点也很正常

极目新闻
2026-10-16 20:55:58
莫大课堂披旭日旗事件后续:在俄中国留学生集体请愿,校方当天就决定遣返

莫大课堂披旭日旗事件后续:在俄中国留学生集体请愿,校方当天就决定遣返

小徐讲八卦
2026-10-18 07:58:24
“李然于心”博主爆料北理工裴某近况:其丈夫辞职、裴某朋友圈签名被改

“李然于心”博主爆料北理工裴某近况:其丈夫辞职、裴某朋友圈签名被改

小徐讲八卦
2026-10-18 07:27:47
一味药煮鸡蛋,金子也不换!清空脑窍老痰瘀,耳朵嗡、鸣响全赶跑

一味药煮鸡蛋,金子也不换!清空脑窍老痰瘀,耳朵嗡、鸣响全赶跑

王二哥老搞笑
2026-10-17 12:48:19
苹果授权店回应iPhone Duo库存:首销当天的现货只提供给已经预订的顾客

苹果授权店回应iPhone Duo库存:首销当天的现货只提供给已经预订的顾客

快科技
2026-10-20 07:04:04
一线城市,全面上涨!

一线城市,全面上涨!

睿见投资
2026-10-19 18:47:20
美国最害怕的,或许并非中国打日本,而是中国不打日本!

美国最害怕的,或许并非中国打日本,而是中国不打日本!

咸鱼金脑袋
2026-10-20 07:52:09
争议!成都球迷大骂颜骏凌 海港球迷:四处拉仇恨 难怪被群起攻之

争议!成都球迷大骂颜骏凌 海港球迷:四处拉仇恨 难怪被群起攻之

念洲
2026-10-20 07:55:39
公路车骑行服,熟女骑行穿搭,利落面料勾勒饱满曲线

公路车骑行服,熟女骑行穿搭,利落面料勾勒饱满曲线

只要高兴就好
2026-09-24 11:58:50
商务部新闻发言人就英方称将共同应对中国汽车产业占主导地位事答记者问

商务部新闻发言人就英方称将共同应对中国汽车产业占主导地位事答记者问

界面新闻
2026-10-19 22:00:42
刘琳和梅婷同框,一个驼背脸肿一个苗条好嫩,皮相骨相区别明显

刘琳和梅婷同框,一个驼背脸肿一个苗条好嫩,皮相骨相区别明显

娱圈办事处
2026-10-19 16:08:23
网坛神仙眷侣落幕:斯维托丽娜与孟菲尔斯官宣离婚

网坛神仙眷侣落幕:斯维托丽娜与孟菲尔斯官宣离婚

五星体育
2026-10-19 16:31:08
被停职审查、套现开溜、私生活混乱,董明珠身上标签该真相大白了

被停职审查、套现开溜、私生活混乱,董明珠身上标签该真相大白了

眼底星碎
2026-10-09 12:19:24
“黄仁勋几乎对所有事情都撒谎了!”做空机构拆解黄仁勋访谈,指英伟达营收结构表述失实,质疑业绩过度依赖OpenAI、Anthropic

“黄仁勋几乎对所有事情都撒谎了!”做空机构拆解黄仁勋访谈,指英伟达营收结构表述失实,质疑业绩过度依赖OpenAI、Anthropic

投资者内参
2026-10-19 15:21:41
比亚迪新车!续航2290公里,10月见

比亚迪新车!续航2290公里,10月见

手机评测室
2026-10-19 11:56:31
2026-10-20 08:48:49
闪存猎手
闪存猎手
全网蹲好价的野生捕手,算力与羊毛都不可辜负。
182文章数 82关注度
往期回顾 全部

头条要闻

两名男性设局和女局长接触并发生关系 其中一人未成年

头条要闻

两名男性设局和女局长接触并发生关系 其中一人未成年

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

奚梦瑶回应重返维密:还是很开心的

财经要闻

宁德时代的大时代结束了吗?

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

教育
房产
数码
家居
公开课

教育要闻

5牛几天吃完?这道经典吃草题,你会算吗

房产要闻

最新房价:海口,三亚齐跌!

数码要闻

苹果官宣10月29日举办特别活动!首款触屏MacBook Pro有望发布

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版