北京
“我们塑造工具，然后工具塑造我们。”Ben O’Mahony 在演讲里抛出这句话时，眼睛大概正盯着自己的 Neovim 屏幕。花了几百行 Lua 配置、装上一堆插件，他对键盘的每次敲击都了如指掌。为了让编辑器更懂自己，他还手搓了一个 AI 驱动的 Language Server Protocol（LSP）——每次按下保存键，这个工具就会自动分析语义，弹出行内提示和代码建议。
但问题很快就来了。这个 LSP 太“勤奋”了，每次保存都是一次远程 AI 代理调用，Token 像水龙头一样哗哗地流。Ben 说，整天写代码下来，费用积少成多。更要命的是，尽管大模型的语义理解很到位，他能做的也只是换个更高参数的版本——模型的“大脑”始终没法真正按他的习惯去定制。
转机藏在他顺手加上的 OpenTelemetry 遥测数据里。这位开发者把 AI 助理的每一次互动都记了下来：哪些建议被一口接受，哪些被直接忽略，还有哪些让他皱了下眉要求重新生成。这些细碎的反馈汇成了一份小数据集。Ben 这才一拍脑袋：“我其实一直在生产自己需要的那份数据。”他意识到，这些记录完全可以用来训练一个更小、更快的模型。
这个想法就像用自家厨余做肥料。他不再只是被动消耗大模型，而是把日常使用中产生的反馈一股脑收集起来，作为蒸馏素材，去提炼一个只属于自己编码习惯的小模型。原来那个包罗万象的大模型像本厚重的百科全书，而他真正要的，不过是个懂他、反应快、还不乱烧钱的专属助手。
从“OTEL 到 SLMs”的炼金术就这么开始了。Ben 把过程拆成三步：用 OpenTelemetry 捕获所有交互与反馈；用这些带有人类偏好的数据去微调（或蒸馏）一个小模型；最后把原来对大模型 API 的依赖，替换成本地跑起来的小模型。当代码编辑器的智能不再绑在云端的庞然大物上时，延迟降了，成本也变得更可控。
作为 Thoughtworks 的 Principal AI Engineer，Ben 正在把这些心得写进他和同事 Fabian 合著的《构建 AI 代理平台》一书中——这本书将由 O'Reilly 出版，前几章会在近期先行发布。他笑称写书就像每月交一篇万字论文，但他打心底觉得，这种把生产遥测变成模型养料的方法，不该只封存在自己的 Neovim 里。“你应该把它做成一种平台能力，能在更大的规模上被复用和优化。”
从几百行 Lua 配置到一条自动收集的遥测管线，Ben 的工具塑造了他，而他反手又把工具变得更像自己。这件事最妙的地方或许在于：你用得越多，它就越懂得怎么配合——只要你愿意把那些反馈数据当真。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
