北京
分享至
在处理大型文件时，AI Agent 往往会消耗大量 Token，甚至把整个文件都塞进上下文里。这不仅成本高昂，还会干扰模型的推理能力。最近我实践了一种非常简单的做法，大幅降低了不必要的 Token 用量。 思路的核心是：不要让 AI 自己去“读”大文件，而是让它调用一个 PowerShell 脚本，只获取当前需要的片段。我在 Agent 的技能说明中加入了这条指令，要求它每次需要从大文件中获取信息时，先运行这个脚本。 这个脚本采用确定性检索（deterministic retrieval），而不是靠 AI 的记忆或猜测。AI Agent 运行脚本后，只会收到与问题相关的信息，再基于这些信息进行推理。这样一来，AI 就不必处理整个文件，只需专注于真正需要思考的部分。 在我这个具体的场景中，Token 消耗大约减少了 80–95%，效果非常明显，而且几乎没有损失准确性。 核心原则很简单：让工具去做搜索，让 AI 去做推理。工具负责从文件中提取对应内容，而 AI 负责综合分析与决策。这样一个看似微小的分离，就能带来数量级的成本下降。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
