网易首页 > 网易号 > 正文 申请入驻

谷歌工程师跑了5遍实验:换提示词结构比换模型管用

0
分享至


Chris Laub 最近做了一组对照实验,结果让不少人手里的模型选型表格成了废纸。他把同一套应用用5个大语言模型各实现一遍,再对每款模型测试5种提示词格式。最后发现:Claude 用 XML 提示词拿了最高分,但用 Markdown 也能跑到89分——而某些模型换种格式,分数能差出35分。

模型之间的差距真实存在,但提示词结构带来的波动,和换模型几乎一样大。

这实验的干净程度在圈内不多见。Laub 本人是 AI 基础设施公司的创始人,测试设计没有学术机构的冗长流程,但控制变量做得够狠:同一批任务、同一套评分标准,只动格式不动其他。结果一目了然——Claude 对格式最不挑食,GPT、DeepSeek、Gemini、Llama 全都出现剧烈抖动。

小模型的逆袭:参数多20倍,照样打平

PersonaGym 的研究团队(EMNLP Findings 2025)更早一步戳破了"参数崇拜"。他们让10款模型扮演200个不同人格,回答10000个问题。GPT-4 和 LLaMA-3-8b 在"人格一致性"这项上得分相同。

20倍参数差距,被提示词设计抹平了。研究团队的原话是:架构改进 alone 解决不了人格一致性问题,规范质量才是变量

两个独立研究,指向同一个结论。模型不是唯一的瓶颈,你喂给它的东西怎么组织,同样决定天花板。


这对 AI 智能体(AI Agent)的开发者来说, stakes 更高一层。普通用户和 ChatGPT 聊完就忘,但智能体的系统提示词是常驻内存的"宪法",每轮对话都要回溯。格式混乱的代价不是一次性的,是复利式的。

从 AGENTS.md 到 SOUL.md:开源社区正在收敛

开源圈已经用脚投票。466个开源项目的元分析(MSR 2026)显示,AGENTS.md 文件——那种专门告诉编程智能体"项目规范、构建命令、代码风格"的结构化文档——能显著提升智能体表现。问题是格式还没统一,各写各的方言。

Soul Spec 把同一逻辑搬到了人格定义层。不是塞给智能体一大坨系统提示词,而是拆成专注的独立文件:

SOUL.md 管核心人格,MEMORY.md 管经验积累,SKILLS.md 管能力边界,PLANS.md 管目标拆解,SANDBOX.md 管执行约束。每份文件有明确的作用域,智能体按需调用,而不是每次把整本"自传"翻一遍。

Laub 的实验验证的是同一原理:结构化上下文打败非结构化上下文。不管你在组织代码指令还是人格规范,格式都是杠杆。

ACE 框架:把系统提示词当成"会进化的战术手册"


斯坦福和 SambaNova 合作的 ACE 框架走得更远。他们把系统提示词视为"evolving playbooks"——不是写死就完,而是持续迭代优化的活文档。实测结果:结构化 + 迭代优化,性能提升10.6%,底层模型一个字没动。

这和 Soul Spec 的设计形成映射:SOUL.md 负责稳定人设,MEMORY.md 负责动态学习。前者像宪法,后者像判例法,各司其职。

Laub 在实验总结里打了个比方:选模型像是选发动机,但提示词结构是你的变速箱。V8 配手动档可能跑不过四缸配双离合。很多人盯着马力表比价,却忽略了档位怎么挂。

开源社区的反应速度比大厂快。AGENTS.md 的共识还在形成中,Soul Spec 的模块化思路已经被多个智能体项目 fork。ACE 框架的论文刚出来,已经有开发者在做自动化迭代工具——让系统提示词自己跑 A/B 测试,优胜劣汰。

模型厂商当然乐见用户把性能瓶颈归咎于"模型不够强"。但数据摆在这儿:同样的 Claude,XML 和 Markdown 能差出11分;同样的任务,换提示词结构和换模型带来的波动处于同一量级。

对于每天和智能体打交道的开发者,这意味着预算可以重新分配。与其排队等 GPT-5 的 API 额度,不如先把系统提示词拆成 SOUL.md + MEMORY.md + SKILLS.md,跑一轮结构化改造。

你的智能体现在是怎么组织上下文的?还是一坨 prompt 从头塞到尾?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
小杨阿姨出门买菜,马筱梅妈妈紧跟其后,网友:你女儿觉得你太累

小杨阿姨出门买菜,马筱梅妈妈紧跟其后,网友:你女儿觉得你太累

离离言几许
2026-04-01 14:19:22
两种葬礼,两种人生,李昌钰和张雪峰的身后事,差距真是一目了然

两种葬礼,两种人生,李昌钰和张雪峰的身后事,差距真是一目了然

探源历史
2026-04-01 10:08:16
不打伊朗了?特朗普通告全世界,战争费由22国承担,国际发出警告

不打伊朗了?特朗普通告全世界,战争费由22国承担,国际发出警告

混沌录
2026-04-01 21:30:11
三大运营商利润被抽走15%:国家要钱了,5G故事讲完了

三大运营商利润被抽走15%:国家要钱了,5G故事讲完了

字节漫游指南
2026-03-30 10:15:13
高铁上有人质疑用排插充电 12306官方回应

高铁上有人质疑用排插充电 12306官方回应

中国网
2026-04-01 17:32:21
福特航母战斗群5700官兵被扣押,接受调查

福特航母战斗群5700官兵被扣押,接受调查

远方青木
2026-03-30 23:59:08
年度最猛画面,早该拍了,终于拍了

年度最猛画面,早该拍了,终于拍了

吐槽电影院
2026-03-31 10:36:45
80年陈云建议陈锡联辞职,陈锡联猛拍桌:让我干啥,我绝无二话!

80年陈云建议陈锡联辞职,陈锡联猛拍桌:让我干啥,我绝无二话!

抽象派大师
2026-03-25 12:04:28
比亚迪:比利润下滑19%更可怕的,是裁员10万人

比亚迪:比利润下滑19%更可怕的,是裁员10万人

诗与星空
2026-03-30 08:00:11
女孩自助餐狂吃5小时,老板崩溃上前理论,女孩竟自顾自继续吃!

女孩自助餐狂吃5小时,老板崩溃上前理论,女孩竟自顾自继续吃!

张晓磊
2026-03-27 11:21:53
意外!曝铁人新副总刚上任就离职,曾接受相关部门调查,引发争议

意外!曝铁人新副总刚上任就离职,曾接受相关部门调查,引发争议

体坛鉴春秋
2026-04-01 17:22:40
乌克兰啤酒厂工程师造救命战车,已救数百士兵性命

乌克兰啤酒厂工程师造救命战车,已救数百士兵性命

老马拉车莫少装
2026-03-30 17:16:09
伊朗的导弹再次回升到每天50发的攻击频率,美国人懵了

伊朗的导弹再次回升到每天50发的攻击频率,美国人懵了

文昌每日谈
2026-04-01 10:18:58
心内科主任:心脏病最危险信号,不是乏力,是频繁出现4异常

心内科主任:心脏病最危险信号,不是乏力,是频繁出现4异常

白宸侃片
2026-04-01 18:53:26
2026年最窒息的是:夫妻俩都在设计院,从精英中产跌落为高负债

2026年最窒息的是:夫妻俩都在设计院,从精英中产跌落为高负债

黯泉
2026-03-31 17:24:05
签不成协议也不打了,特朗普决定发表全国讲话,美国将无条件撤军

签不成协议也不打了,特朗普决定发表全国讲话,美国将无条件撤军

健身狂人
2026-04-01 17:43:45
和老爸赌气随便嫁了个兵哥哥,领完证才发现自己竟嫁入了将门世家

和老爸赌气随便嫁了个兵哥哥,领完证才发现自己竟嫁入了将门世家

白浅娱乐聊
2026-04-01 17:30:03
心内科主任:心脏病最危险信号,不是嘴唇发紫,是频繁出现7异常

心内科主任:心脏病最危险信号,不是嘴唇发紫,是频繁出现7异常

健康科普365
2026-04-01 09:49:11
乒乓球世界杯大冷门,世界亚军1-3出局,国乒全胜,伊藤美诚复仇

乒乓球世界杯大冷门,世界亚军1-3出局,国乒全胜,伊藤美诚复仇

宝哥精彩赛事
2026-04-01 18:58:16
全网震动!字节跳动多人被抓!

全网震动!字节跳动多人被抓!

大佬灼见
2026-03-30 11:39:00
2026-04-01 22:20:49
灰度测试中
灰度测试中
生活正在重构,目前还在灰度测试阶段,暂不全量发布。
621文章数 4关注度
往期回顾 全部

科技要闻

甲骨文血洗3万人,47人团队仅留3人

头条要闻

凯越机车疑内涵张雪机车夺冠:在你来之前我们就是冠军

头条要闻

凯越机车疑内涵张雪机车夺冠:在你来之前我们就是冠军

体育要闻

NBA扩军,和篮球无关?

娱乐要闻

宋宁峰人设崩塌!带娃偷情+反向索赔

财经要闻

电商售械三水光针 机构倒货or假货猖獗?

汽车要闻

三电可靠 用料下本 百万公里的蔚来ES6 拆开看

态度原创

时尚
手机
房产
公开课
军事航空

大牌必修课|| 为什么那些很会穿的人,都迷上了优雅运动风?

手机要闻

华为49元的「龙虾」不算贵,用户认不认才真难

房产要闻

产业、教育、地产…重大信号发出! 官方定调海口未来5年!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

视频:以空袭黎巴嫩 大楼被炸成废墟

无障碍浏览 进入关怀版