有人给自己的 AI 编程助手搭了一套本地记忆索引。上周他写过为什么要这么做——助手总是忘记同一个设计决策。这次他补上了大家最容易跳过的那部分:测量。
同一台机器、同一批语料,两个工具各跑三次取中位数。没有云、没有 GPU、没有向量数据库。结果让他有点意外:两者处在同一个数量级,他原本以为索引在这种小语料上会输。
测试怎么搭的
- 语料:557 个 markdown 文件,从真实项目里取的 3.1 MB 文本,包含文档、规格说明和运维手册
- 索引结果:4,137 个分块,数据库 11.8 MB,首次构建耗时 9.2 秒
- 机器:Windows,16 个索引工作线程(实际用了 8 个),后台没有其他任务
- 查询:五条普通查询——mcp config、license activation、hybrid search、index checkpoint、rate limit
- 计时口径:端到端 CLI 进程时间,即启动、打开数据库、查询、打印 JSON 的总和,取三次中位数。启动时间没有剔除,因为你的助手同样要付这笔开销
速度不是差异点
在约 50 毫秒这个量级上,两个工具对人类来说都是“瞬间”,也都塞得进一次助手回合。真正拉开差距的是输出形态。
用 ripgrep 跑 rg -l "mcp config",你拿到的是 9 个文件路径。接下来还得自己打开、切分,然后祈祷对的那段恰好排在前面。而索引工具返回的是排好序的分块,每一块都小到可以直接粘进上下文窗口。
上下文才是真正的预算。十个原始文件可能是 20 万 token,十个 512 token 的分块大约 5 千。真正值得衡量的不是延迟,而是你省下了多少不必花的 token。
作者自己列的保留意见
557 份文档属于小语料;在数百万文件规模上,ripgrep 的扩展性要好于一个全文索引。这次他把向量层关掉了(vector.enabled: false),跑的是纯 BM25,如果开启嵌入,数字只会更差不会更好。此外还是热缓存、单机、单组运行。
那他为什么还这么用?因为索引能回答 grep 回答不了的问题:“关于重试我们当时定了什么”“许可证检查在哪”“哪个配置键控制分块重叠”。这类偏语义的查询,答案是一段话,而不是一个文件。
整套东西是一个 33 MB 的 Go 二进制,不需要 Docker、不需要 Postgres、不需要嵌入服务。索引 557 份文档花 9 秒、占 12 MB 磁盘。卖点就这一句:把自家笔记变成可检索上下文的最便宜方案。
想复现的话,一条命令安装,然后索引任意文件夹:cortex index ~/notes。Windows 下用对应的 PowerShell 脚本。另有 14 天 Pro 试用,额度 50 万文档、100 GB,无需付款。
作者留了个请求:如果你在更大的语料上跑同样五条查询,发现索引落后于 ripgrep,请告诉他文档数量——他说这个数字比 star 更想要。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.