北京
AI 模型无限制使用工具，正在带来低效的令牌消耗和潜在安全风险。当模型可以随意查询多个来源时，冗余调用会快速累积成本，敏感数据也可能在不必要的工具交互中被暴露。SAFi 给出的解法是：给每个请求设定一个明确的工具调用上限。
五次工具调用轮次，到点就停
SAFi 将每个请求的工具调用轮次严格限制为最多五次。如果代理在这个限制内没有收集到必要信息，循环会被直接终止，模型必须基于现有数据给出响应。这个机制直接针对查询失控的问题，避免模型为了追求“更完整”的答案而不断追加调用。
作者 Nelson Amaya 在 API 层面与 AI 模型合作时观察到，不同模型处理工具使用的效率差异很大：有些模型非常高效，另一些则非常混乱。这种混乱往往表现为重复查询相似来源，既浪费令牌，也增加了数据暴露面。
添加工具需要明确授权
与允许无限集成工具的商业聊天机器人不同，SAFi 要求明确授权才能添加工具。这意味着每新增一个工具，都需要经过审慎的确认流程，而不是默认开放。用户因此能清楚知道系统正在使用哪些功能，工具集成的过程也变得更加透明。
这种设计把“添加工具”从一个技术动作变成了一次安全决策。每一次授权都相当于一次显式的信任声明，避免工具数量在后台悄悄膨胀，最终形成难以审计的调用链。
用硬限制换可控性
五次轮次的上限看似简单，实际同时约束了成本和安全两个维度。令牌消耗被框定在一个可预期的范围内，敏感数据的访问路径也受到压缩。对于需要长期运行 AI 代理的场景，这种硬限制比依赖模型自觉更可靠。
SAFi 的做法提供了一个直接可复用的思路：不追求工具调用的无限能力，而是通过明确边界来保证资源受控访问。当模型必须在有限轮次内完成任务时，每一次调用都会更审慎，系统整体的可预测性也随之提升。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
