Google 官方文档显示,gemini-1.5-pro 的输入上下文窗口为 2,097,152 tokens(约 209 万),输出上限则为 8,192 tokens。这两个数字是硬性限制,由 API 强制执行。但窗口大小并不代表模型能从两百万 token 中精准找到某条信息,Google 还公开了另一项评估来回答这个问题。
输入计数包含请求中所有会被转换成 token 的内容:contents 数组(包括你重发的每一轮历史对话)、system_instruction、工具声明,以及图片、音频、视频部分带来的 token 开销。工具声明尤其容易被忽略——十几个带长描述的工具,每次调用都会产生一笔可观的固定费用。若想发出请求前拿到真实数值,官方提供了专门的接口,而不是依赖估算:通过 POST 请求调用 countTokens,传入 contents 和 systemInstruction,响应中的 totalTokens 就是与实际计费一致的 token 数。该方法仅对你的确切载荷有效,当涉及多模态内容时,基于字符或单词的粗略估算会严重偏离。
需要注意,Gemini 1.5 Pro 属于旧版生成模型。Google 在 2025 年已停止 1.5 系列接受新项目,并在 Vertex AI 上陆续退役部分 1.5 版本。新项目应参考该页面了解长上下文行为,并选用当前模型。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.