网易首页 > 网易号 > 正文 申请入驻

输出不要钱?100个问题仅用0.41秒!谷歌Gemini Decisions API上线

0
分享至


智东西
编译 黄菲
编辑 江宇

智东西11月12日消息,今日,谷歌宣布推出Gemini Decisions API,该API可通过同日新发布的模型Gemini Decision 1调用。与传统生成式模型不同,Gemini Decision 1可以直接评估输入内容,并针对最多1000个预设问题一次性作出判断。该模型支持文本、图像、音频、视频和PDF等多模态输入,且不收取输出Token费用。


性能方面,谷歌称,在最多16K Token的多模态输入场景下,Gemini Decision 1的中位模型计算延迟为50至100毫秒,端到端延迟为150至250毫秒。

价格方面,Gemini Decision 1每百万输入Token收费0.1美元(约合人民币0.67元),输出Token免费,其成本约为Gemini 3.5 Flash-Lite通过Interactions API调用成本的五分之一。

API上线后,网友对此的评价不一。一名用户认为:“炒了这么久,结果就这?不过,我确实会用它来做路由。只为了回答是或否就让一个聊天模型专门生成一整段话,一直让我觉得有些大材小用。但这也算不上多么创新,类似的东西我们已经见过不少了。”


另一名用户则提出了一个实际问题:“如果给出的选项都不正确,它会怎么回答?总体来说,我很高兴看到这项功能,尤其是它支持多模态输入,这对我的资产分类工作很有用。”


还有用户则提到,这项API的价值取决于实际速度表现:“如果它真的比让普通模型直接作出判断更快,那就很有意思。我宁愿两秒钟就得到答案,也不想等一段自己根本不需要的长篇解释。”


同日,个人开发者莱西亚·卡普利尤克(Lesia Kapliuk)使用免费API密钥进行了实测。其中,模型在54次调用、30条客服工单和8项多语言任务全部分类正确,单次处理100个判断问题仅耗时0.41秒,但莱西亚发现模型会将超出预设范围的输入强行归入已有类别。

目前,Gemini Decisions API已用于Gemini Notebook等谷歌内部产品,谷歌搜索也将其用于模型上下文协议(MCP)工具的安全防护。开发者可以通过谷歌AI Studio获取API密钥,并使用免费API额度进行原型开发。

谷歌AI Studio地址:https://aistudio.google.com/

一、支持三类判断方式混用,单次请求最多处理1000个问题

Gemini Decisions API通过三类判断方式处理开发者预先定义的问题,分别是是非判断(Yes/No)、多项选择(Multiple Choice)和分级评分(Ordered Rubric),而这三种方式可以在同一次请求中混合使用。

是非判断用于估算某个条件成立的概率,开发者还可以分别设置条件成立和不成立时的描述标准。多项选择支持2至255个候选项,模型会选出最符合要求的选项,并返回每个候选项对应的归一化概率。分级评分则按照从0开始的有序标准对输入内容进行评估,返回加权后的连续分数,以及各个评分等级对应的概率。

三种判断方式均会附带0至1之间的置信度分数。开发者可以根据置信度设置处理规则,例如将模型无法确定的结果交给备用模型处理,或者转交人工审核。

在多模态处理方面,Gemini Decision 1基于Gemini原生多模态架构,可以在一次模型计算中直接处理文本、图像、音频、视频和PDF文件。不同类型的内容可以组合在同一份输入中,例如将通话录音与账户信息放在一起分析,或者将PDF保险理赔文件与现场受损照片结合起来判断。

开发者还可以调整图像和视频的分辨率,以控制模型需要识别的画面细节和Token消耗。单次请求最多支持256K Token的输入内容,并可针对同一份输入设置最多1000个独立问题。

谷歌还给出了一个实际应用示例。开发者可以上传一张休息室台面的照片,并附上一段文字说明,让模型同时判断台面上是否存在未清理的液体、应该采取哪种清洁措施,以及现场脏乱程度。


其中,模型需要判断是否存在液体污渍,在擦拭台面、安排清洁人员和无需处理三种行动中作出选择,并按照清洁完毕、轻微局部污渍和严重污渍或安全隐患三个等级进行评分。三项任务可以通过一次请求完成。


目前,谷歌内部已有Gemini Notebook、Stitch等多个产品接入Gemini Decisions API,将其作为低延迟的决策控制层。开发者只需预先定义判断选项,就可以让模型完成任务分配,不必额外训练专用分类器,也无需等待生成式模型输出完整答案。

此外,谷歌搜索也将Decisions API用于模型上下文协议(Model Context Protocol,MCP)工具的安全防护层,帮助识别对抗性行为和相关内容,在控制响应延迟的同时提高检测效果。

二、响应延迟最低50毫秒,成本不到生成式模型的五分之一

在运行机制上,Gemini Decision 1与传统生成式模型有所不同。

传统生成式模型通常需要逐个生成Token,再组合成完整答案。Gemini Decision 1则直接对开发者预先设定的候选选项进行评分,通过一次模型向前计算返回概率和置信度,不需要逐个生成答案Token。

谷歌称,在包含智能体路由、推理、排序和多模态理解的基准测试中,Gemini Decision 1整体表现领先,校准误差也是参与测试的API中最低的。


在最多16K Token的多模态输入场景下,该模型的中位模型计算延迟为50至100毫秒,端到端延迟为150至250毫秒。当单次请求的问题数量从1个增加到100个时,响应延迟基本保持稳定。

成本方面,由于同一请求中的共享输入只计费一次,因此增加判断问题时,用户只需额外支付各问题对应的指令和评估标准所消耗的Token费用。

在双方共同参与的基准测试中,与通过Interactions API调用的Gemini 3.5 Flash-Lite相比,Gemini Decision 1搭配Decisions API的成本接近降低80%,约为Gemini 3.5 Flash-Lite的五分之一。

Gemini 3.5 Flash-Lite每百万输入Token收费0.3美元(约合人民币2.01元),每百万输出Token收费2.5美元(约合人民币16.75元)


Gemini Decision 1每百万输入Token收费0.1美元(约合人民币0.67元),不收取输出Token费用、额外的思考Token费用,以及单独的音频转写和OCR文字识别费用。


在调用额度方面,Gemini Decisions API分为免费和付费两档。

免费版每分钟最多发起200次请求,每分钟最多处理5万个Token,每天最多发起1万次请求。

付费版每百万输入Token收费0.1美元(约合人民币0.67元),输出Token免费。在Tier 1等级下,每分钟最多发起1500次请求,每分钟最多处理100万个Token,每天最多发起5万次请求。


三、开发者实测54次调用,100个问题耗时增加70%

个人开发者莱西亚·卡普利尤克(Lesia Kapliuk)于11月11日发布了Gemini Decision 1的API实测结果。该开发者使用免费API密钥进行了54次调用,测试了模型的分类准确率、多语言处理能力、批量判断效率和结果稳定性。

在实际测试中,该开发者提交了30条客服工单,要求模型将工单分配至对应团队,30条工单全部正确分类。在多语言测试中,模型处理了乌克兰语、德语、西班牙语、波兰语和日语等语言的8项任务,也全部给出了正确结果。

批量处理方面,该开发者分别测试了单次请求包含1个、10个和100个判断问题的情况。结果显示,处理1个问题和10个问题时,中位响应时间均为0.24秒;问题数量增加至100个后,响应时间上升至0.41秒,增加约70%。

对应的Token消耗也随问题数量增加而上升。单次处理1个问题消耗135个Token,10个问题消耗613个Token,100个问题消耗5473个Token。此外,相同请求重复提交5次,模型返回的结果和概率完全一致。


这项测试还暴露出模型在处理异常输入时的一个问题。当输入内容不符合预设分类条件时,模型可能仍会强行选择已有选项。

例如,开发者向模型输入澳大利亚的首都、无意义的随机字符,以及一段要求创作秋天主题诗歌的文字,要求模型判断这些内容是否属于客服请求。

当开发者在候选选项中加入“其他”后,模型对三项输入均选择了“其他”,对应置信度分别为0.99、0.69和0.98。

但在没有设置“其他”选项时,模型将三项内容均错误归入技术支持类别,置信度分别达到0.71、0.64和0.84。对于是否属于客服请求这一是非判断,模型给出的概率也只有0.01、0.07和0.01。


可以看到,Gemini Decision 1虽然能够快速处理预设范围内的判断任务,但其结果仍然受到候选选项设计的影响。若开发者没有为异常输入设置兜底选项,模型可能将不符合分类条件的内容强行归入已有类别。

结语:谷歌将模型能力延伸至快速决策场景

从Gemini Decisions API的定位来看,谷歌正尝试在有一定竞争力的同时兼顾处理速度与调用成本。

对于需要频繁进行分类和工具选择的Agent应用来说,这类API提供了一种新的调用方式。随着Gemini Notebook、Stitch等谷歌内部产品陆续接入,其应用场景也在逐步拓宽。

未来,Gemini Decision 1能否在实际工作流中持续保持稳定的判断质量和处理效率,将影响这类API能否形成长期竞争优势。

来源:谷歌


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
小团团直播坦言财务压力大:开销搞太大,团队到12月一分钱挣不了,大号可能停播

小团团直播坦言财务压力大:开销搞太大,团队到12月一分钱挣不了,大号可能停播

国创漫话
2026-11-09 23:55:56
C罗官宣退出国家队,齐达内谈C罗曾表示:我要向C罗致敬,他在国家队完成的成就非常非凡!我很幸运曾经执教他,他帮我拿下了无数冠军

C罗官宣退出国家队,齐达内谈C罗曾表示:我要向C罗致敬,他在国家队完成的成就非常非凡!我很幸运曾经执教他,他帮我拿下了无数冠军

梧桐听雨l
2026-11-06 20:27:01
随着杜兰特20分4板5助,火箭115-108勇士,NBA最新积分榜出炉

随着杜兰特20分4板5助,火箭115-108勇士,NBA最新积分榜出炉

侧身凌空斩
2026-11-12 13:12:46
安倍怕是要气得从坟里爬出来。真的。他老婆安倍昭惠,在他走后,小日子过得那叫一个滋润。

安倍怕是要气得从坟里爬出来。真的。他老婆安倍昭惠,在他走后,小日子过得那叫一个滋润。

回京历史梦
2026-11-05 00:00:04
黄牛要上天台了!RTX 5090官方补货:价格从6万跌至4万

黄牛要上天台了!RTX 5090官方补货:价格从6万跌至4万

快科技
2026-11-12 14:36:10
黄仁勋老婆给他买的皮衣怎么办?网友:“千算万算,没想到他离婚会波及到我啊!”

黄仁勋老婆给他买的皮衣怎么办?网友:“千算万算,没想到他离婚会波及到我啊!”

LOGO研究所
2026-11-09 19:40:24
金鸡奖结束不到24小时,导演郑大圣被扒底朝天,质疑声铺天盖地

金鸡奖结束不到24小时,导演郑大圣被扒底朝天,质疑声铺天盖地

许三岁
2026-11-12 07:24:23
拒绝逆转!库里伤退,伦德博格空砍25+10,谢泼德13分成火箭功臣

拒绝逆转!库里伤退,伦德博格空砍25+10,谢泼德13分成火箭功臣

体育火锅T
2026-11-12 13:34:52
浓烟滚滚!持续半小时!昆明一小区住户家中起火,多辆消防车现场救援

浓烟滚滚!持续半小时!昆明一小区住户家中起火,多辆消防车现场救援

都市条形码
2026-11-12 13:25:08
和平饭店“51万天价餐”网传小票存在明显错误,工作人员:调查结果会酌情公布,小票真假“您可以自己判断”

和平饭店“51万天价餐”网传小票存在明显错误,工作人员:调查结果会酌情公布,小票真假“您可以自己判断”

界面新闻
2026-11-11 13:45:59
腾讯搬走后,科兴物价彻底崩了,一杯咖啡从25降到15

腾讯搬走后,科兴物价彻底崩了,一杯咖啡从25降到15

流苏晚晴
2026-09-18 14:24:54
男子因亲人病危打顺风车从上海回江苏 距目的地20公里时却被甩 投诉后司机竟发短信质问“是没送到你家坟头吗”

男子因亲人病危打顺风车从上海回江苏 距目的地20公里时却被甩 投诉后司机竟发短信质问“是没送到你家坟头吗”

闪电新闻
2026-11-11 18:44:50
政变时刻三名高官的抉择

政变时刻三名高官的抉择

砚田文化
2026-11-10 09:40:04
欧洲乱成一锅粥,唯独这2个国家没事,原因藏在和中国的账本里

欧洲乱成一锅粥,唯独这2个国家没事,原因藏在和中国的账本里

蜉蝣说
2026-11-11 14:44:31
韩剧女演员整牙后像换了个人,标志性虎牙不见了

韩剧女演员整牙后像换了个人,标志性虎牙不见了

热搜摘要官
2026-11-12 02:32:04
16:9拉到21:9,三星卷轴屏手机卡在电池上

16:9拉到21:9,三星卷轴屏手机卡在电池上

Ping值焦虑
2026-11-11 14:48:23
北京市委原书记李雪峰,薄一波亲家,1973年被开除党籍,后来怎样

北京市委原书记李雪峰,薄一波亲家,1973年被开除党籍,后来怎样

微野谈写作
2026-11-07 07:25:08
梁家辉听到要工作人员帮拿金鸡奖杯时的反应引热议

梁家辉听到要工作人员帮拿金鸡奖杯时的反应引热议

韩小娱
2026-11-11 06:43:58
两名台湾军人游泳回到大陆后人生分岔:一人成为国企老总,另一人成为经济学家

两名台湾军人游泳回到大陆后人生分岔:一人成为国企老总,另一人成为经济学家

凉州辞
2026-08-20 06:00:03
大自然太疯狂!公牛和公驴坠入爱河?物种不同性别相同,4天交配51次…

大自然太疯狂!公牛和公驴坠入爱河?物种不同性别相同,4天交配51次…

英国那些事儿
2026-11-04 02:05:13
2026-11-12 16:32:49
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12918文章数 117193关注度
往期回顾 全部

科技要闻

英伟达物色新掌门,谁敢接黄仁勋的班?

头条要闻

媒体:民主党掏出两把"刀" 一把挥向对华出口芯片政策

头条要闻

媒体:民主党掏出两把"刀" 一把挥向对华出口芯片政策

体育要闻

西部狂飙!湖刺勇集体暴走 连胜到何时?

娱乐要闻

北京知名大腕郝泊言去世,年仅39岁

财经要闻

黄仁勋再曝新婚外情,董事会准备罢免!

汽车要闻

座舱换大屏/增激光雷达 瑞虎9猎鹰700版限时价17.29万

态度原创

手机
教育
亲子
本地
公开课

手机要闻

当购物节遇见主动式AI:天玑9600 Pro如何让手机智能体更懂你

教育要闻

越“盯”越不学!家长该如何帮孩子找到自驱力?

亲子要闻

杰哥和双儿姐出门办事不在家,哥哥懂事的在家带妹妹做饭照顾阿公

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版