把提示词塞进代码仓库的人，2年后盯上了消息队列：19次实验揭示的AI架构跃迁

如果2024年有人告诉你"提示词应该像代码一样被版本管理"，你会觉得这是极客的怪癖。如果2026年同一个人问"能不能让大模型直接在消息队列里跑推理"，你可能会愣住——这到底是偷懒，还是某种更本质的架构变革？

那位连续两次让你愣住的工程师，是Google Cloud的开发者布道师。他的实验从不宏大，但总能提前踩中行业的下一个落脚点。

我翻完了 Google Cloud Next '26 的所有 keynote，却发现最值钱的线索藏在一篇博客的标题里：一个以"Should we?"开头的问句，答案悬在半空。

2024：提示词即源代码

第一次实验的架构简单得近乎粗暴：

源代码仓库里放着一个 prompts.json，Spring AI 读取后调用 Gemini 1.5 Flash，输出完整的 Node.js/Python 代码包，连带 Dockerfile 和 package.json，最终推送到 Cloud Run。整个流程没有人类手写业务代码。

核心哲学是把提示词当作唯一的事实来源（source of truth），让 AI 负责实现层。他甚至建了公开的 GitHub 仓库来验证可行性。

输出结果？非确定性的、未经测试的、完全不受监管的。他本人用了"bonkers"（疯癫的）这个词形容，并明确警告不要用于生产环境。

但真正的价值不在于这个原型能否上线。他证明了另一件事：只要描述足够精确，大模型就能把意图转化为可执行产物。这个念头像种子一样埋进了土壤——现在你看到的各种"智能体软件工程"（agentic software engineering）工具，都能追溯到类似的直觉。

重读他2024年的文章有种奇怪的考古感，像翻到某个如今支撑半个互联网的框架的第一次 commit。

2026：推理引擎住进消息总线

两年后的新实验更激进。Google Cloud 给 Pub/Sub 加了 AI Inference SMT（单消息转换）功能，他第一时间上手测试。

新架构比上次还简单：

Pub/Sub Topic → AI Inference SMT（直接调用 Gemini）→ Pub/Sub Subscription（拿到被 enriched/altered 的消息）。

没有自定义订阅者。没有 Cloud Run 服务。没有样板代码。你在消息流转的配置模板里填好提示词，大模型就在数据流动的管道里完成推理。

举个例子：原始消息是客户投诉文本，经过 SMT 后变成带情感标签和优先级评分的结构化数据，下游订阅者直接消费即可。

测试代码显示，整个配置可以压缩到几十行 YAML。延迟？P99 在几百毫秒。成本？按调用次数计费，没有常驻实例的开销。

但他在文章里反复问的不是"怎么做"，而是"应不应该做"。

从代码生成到消息注入：同一条轴线上的两次跳跃

把两个实验并排放，能看到清晰的演进逻辑。

2024 年的问题是：能不能让 AI 替代人类写代码？2026 年的问题是：能不能让 AI 替代人类写代码来处理消息？

注意这个细微的位移。第一次，AI 是生产工具，输出物是静态的代码资产。第二次，AI 是运行时组件，输出物是动态的数据变换。从 build time 到 runtime，从 artifact 到 operation。

他没有明说的是：当大模型的调用延迟降到足够低、成本降到足够便宜，"推理"本身就变成了一种基础设施能力，可以和存储、计算、网络并列。

Pub/Sub 不是唯一在做这件事的。AWS 的 EventBridge 有类似的路由转换，Azure 的 Service Bus 也在探索内置的 AI 能力。但 Google 这次把模型调用直接嵌进消息中间件的原生 API，步子迈得最彻底。

unsettling 在哪里

他本人用了"unsettling"（令人不安的）形容第二个实验。这种不安来自几个层面。

可观测性黑洞：消息进去，消息出来，中间发生了什么？提示词怎么写的？温度参数多少？有没有幻觉？传统的日志追踪在这里断了层。

调试噩梦：当生产环境的某个消息被错误分类，你没法像调试代码那样设断点。你只能看到输入输出对，中间过程是个黑箱。

成本曲线的隐蔽性：按调用计费听起来便宜，但消息洪峰来临时，推理成本会随流量线性爆炸。没有预热，没有缓冲，没有降级开关。

最深层的不安或许是架构层面的：当智能被注入数据流的每一根毛细血管，系统的复杂度不再体现在代码量上，而是体现在提示词的质量和模型行为的不可预测性上。我们还没学会如何治理这种复杂度。

为什么值得盯着这个人

技术布道者很多，但提前两年把东西造出来的人很少。他的价值不在于预测未来，而在于把未来的摩擦点提前暴露给你看。

2024年的实验催生了现在满大街的"提示词工程最佳实践"和"AI生成代码的合规检查清单"。2026年的实验，很可能正在定义2028年的消息中间件标准功能。

他在文章结尾没有给答案，只留了一个问题："我们准备好了吗？"

这个问题本身，就是答案。