网易首页 > 网易号 > 正文 申请入驻

程序员给AI写了一条防撒谎指令,结果先被纠错的竟是自己

0
分享至

我经营着一个小型开源商业工具集合,大部分时候是我一个人在干,AI子代理承担了大量跑腿活儿:跨仓库读代码、起草文档、把声明与真实代码做交叉验证。

很长一段时间里,这套配置的问题不在于代码写错,而在于那种过于自信的行文。某个代理会写“这已经在框架里做了标准化”——听起来靠谱,框架里确实有类似的东西,但如果我没去亲自翻看,就会把一句根本不成立的句子发布出去。不是故意的,纯粹是模型拿着一点蛛丝马迹把缺口给抹平了,抹得还挺像那么回事。


于是我往每个子代理的任务指令里加了一段话。

这段指令不花哨。就是一条贯穿所有任务的硬规矩:要么引用来源,要么放弃它。每一项声明都必须对应一个具名来源——某份文件、某个PR、某一行代码。如果你找不到出处,就别说这话;跳过它,并说明你跳过了。不要链接到你没确认过存在的锚点。报告你没能完成的事情。跳过一步是信息,不是需要遮掩的失败。别碰无关改动,动手前先检查git状态。

就这样。没有框架,没有评估套件。一段简短的列表,把“说得像真的”扭成了“把凭据亮出来”。

真正有意思的地方在于,代理们开始自我纠察了。

其中一次运行里,一个代理正在记录某个特性,想从一个兄弟仓库里复用一句话:“同步机制在这里已被标准化。”它查了一下,发现兄弟仓库压根没这回事,就自己把这项声明拿掉了,还附了条备注,说查无出处。

另一次,它想用深度链接指向一个命名段落,但那个段落并不存在。它没自己编造锚点,而是退回到文件级别的链接,并把情况标记了出来。

还有一个让我反复回味的例子:我给一个代理发了条指令,说某项工作处于“第二阶段,进行中”。它去核查了最新状态,发现那个阶段早在几天前就已经交付完成了,顺手把我给它的指令纠正了过来。

最后这个事值得琢磨。那道防线不止是阻止代理凭空捏造,它还恰恰揪出了我那些早已过时的假设——因为“对照记录核实”这件事,刀锋是双向的。

接着,它来真格的了,直接把我自己的问题摆上了台面。这才是整件事里最让人服气的部分。

我曾经让一个代理起草一篇技术文章,讲的是一个关于共享主机环境下某个Bug的失败故事。每个代码片段都对,每个默认值、每个配置细节,跟仓库一一对照全都吻合。技术层面来说,无可挑剔。

然而叙事框架是虚构的。

文章把它讲成了一次真实的生产事故:“我推送了内存版本的实现,测试全绿,结果上生产后它从来没触发过。”听着很带感,问题是根本没发生过。Git历史清清楚楚——那个组件从第一版提交起就是基于文件存储的。内存版本从来就没被部署过。我正打算用第一人称讲的那段“生产事故”,在代码和记录里找不到一丝痕迹。

一次带有审查把关的复核在发布前把它拦了下来。我现在会拿几个审查视角对新草稿做一遍对抗性通读——

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
勒布朗·詹姆斯经纪人透露,詹姆斯家人是如何影响他加盟76人队

勒布朗·詹姆斯经纪人透露,詹姆斯家人是如何影响他加盟76人队

好火子
2026-07-30 05:18:31
江珊与丈夫素颜同框,平淡烟火气,十分接地气

江珊与丈夫素颜同框,平淡烟火气,十分接地气

娱你同欢
2026-07-29 22:50:17
7个月5次一轮游 23岁郑钦文到底怎么了?名嘴:有勇无谋 恶性循环

7个月5次一轮游 23岁郑钦文到底怎么了?名嘴:有勇无谋 恶性循环

念洲
2026-07-29 22:19:49
紧急提醒:交管12123正式改版,不更新的车主,容易踩到这些大坑

紧急提醒:交管12123正式改版,不更新的车主,容易踩到这些大坑

沙雕小琳琳
2026-07-28 00:58:13
瑞典世乒赛阵容:女队召回老将 男队启用新人,未知数待解

瑞典世乒赛阵容:女队召回老将 男队启用新人,未知数待解

黄金葉
2026-07-29 07:50:12
法庭上杀人犯当场质问法官:“我明明杀了四个女人,你们为什么说我杀了3个?”

法庭上杀人犯当场质问法官:“我明明杀了四个女人,你们为什么说我杀了3个?”

落纸生花创意手工
2026-07-19 12:06:31
不服!郑钦文回应一轮游:本有机会赢球 未展现真实水平+失误太多

不服!郑钦文回应一轮游:本有机会赢球 未展现真实水平+失误太多

风过乡
2026-07-29 06:27:00
美国一男护士被登山杖刺穿身体,拒绝昂贵的直升机救援,徒步16公里历时6.5小时下山;目前登山杖已被外科医生取出

美国一男护士被登山杖刺穿身体,拒绝昂贵的直升机救援,徒步16公里历时6.5小时下山;目前登山杖已被外科医生取出

大风新闻
2026-07-28 16:25:04
持续发酵!韩红风波又起,央视发布视频后,韩红所有糟心事都来了

持续发酵!韩红风波又起,央视发布视频后,韩红所有糟心事都来了

星娱叨叨社
2026-07-28 15:23:43
中国反制已见成效,欧盟终于想谈了,中欧班列立功,15天完成任务

中国反制已见成效,欧盟终于想谈了,中欧班列立功,15天完成任务

乌克兰小静
2026-07-30 04:45:58
央视春晚都请不动的周星驰要来董宇辉直播访谈了,预测人气超百万

央视春晚都请不动的周星驰要来董宇辉直播访谈了,预测人气超百万

枫尘余往逝
2026-07-29 16:58:16
3nm麒麟要惊艳全球!华为:绕开光刻机,韬定律让中国芯逆袭

3nm麒麟要惊艳全球!华为:绕开光刻机,韬定律让中国芯逆袭

新浪财经
2026-07-28 06:07:49
从符拉迪沃斯托克,到图瓦,然后到库页岛,俄罗斯对华立场已彻底转变

从符拉迪沃斯托克,到图瓦,然后到库页岛,俄罗斯对华立场已彻底转变

天气观察站
2026-07-30 01:23:37
当代版“洛阳纸贵”,一份报纸炒到65元,网友纷纷求代购,《王的猜想》火了

当代版“洛阳纸贵”,一份报纸炒到65元,网友纷纷求代购,《王的猜想》火了

上观新闻
2026-07-29 09:59:42
3万人,替俄军走完最后一段路

3万人,替俄军走完最后一段路

李荣茂
2026-07-27 18:38:13
男子选号摇中999豹子号遭人竞价160万,倒计时最后1秒突然放弃,工作人员:你做了个对的决定

男子选号摇中999豹子号遭人竞价160万,倒计时最后1秒突然放弃,工作人员:你做了个对的决定

晓悦流年
2026-07-29 17:11:17
宁波半导体“小巨人”启动IPO,刚融资超10亿

宁波半导体“小巨人”启动IPO,刚融资超10亿

芯东西
2026-07-29 21:19:54
上海市发改委发布公告:拟于9月召开优化轨道交通票价机制听证会

上海市发改委发布公告:拟于9月召开优化轨道交通票价机制听证会

澎湃新闻
2026-07-29 22:36:27
湖人队传闻:勒布朗·詹姆斯阵营认为佩林卡愿续约詹姆斯是谎言

湖人队传闻:勒布朗·詹姆斯阵营认为佩林卡愿续约詹姆斯是谎言

好火子
2026-07-29 22:44:57
人口迁徙大势已定!大批人离开深圳,纷纷涌向这三座城市

人口迁徙大势已定!大批人离开深圳,纷纷涌向这三座城市

新一说史
2026-07-28 19:19:21
2026-07-30 05:44:49
码上闲叙
码上闲叙
有态度网友ytd
401文章数 77关注度
往期回顾 全部

科技要闻

Kimi K3火爆,奥特曼:开源一定有一席之地

头条要闻

特朗普:现在“轮到美国反击了”

头条要闻

特朗普:现在“轮到美国反击了”

体育要闻

毫无存在感的NBA状元,最先谢谢惠顾?

娱乐要闻

55岁影帝黄政民出轨

财经要闻

天丝红牛多地检出成分不合格 企业申诉

汽车要闻

MG 07预售12.59万起 高阶版配激光雷达+CDC

态度原创

教育
数码
艺术
游戏
公开课

教育要闻

南京民办学费又上涨了?!最新学费标准公布!

数码要闻

苹果又出新招?一件即可操控所有苹果设备

艺术要闻

吴昌硕雷同太多,天趣不足

外媒破防索尼取消实体盘:玩家失去“捡漏”机会

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版