网易首页 > 网易号 > 正文 申请入驻

Google给AI应用加"中间件":生产环境终于能管住了

0
分享至

Google最近给Genkit框架加了一层"中间件",专门解决AI应用在生产环境里失控的老大难问题。这个开源框架原本是用来构建AI驱动和智能体应用的,现在开发者可以在模型调用、工具执行和生成循环外面套一层可编程的拦截层,对可靠性、安全性和编排逻辑进行精细控制。

具体来说,这套中间件让开发者能在工作流里注入自定义行为,不用改动应用逻辑就能实现重试、模型降级和日志记录等功能。Genkit目前支持TypeScript、Go和Dart,Python版本也快来了。


Google解释了技术细节:Genkit里的每个generate()调用都运行在一个工具循环中——模型生成输出、执行工具、处理结果,然后继续循环直到完成。中间件钩子可以在三个层面拦截这个循环:生成层面、模型调用层面和工具执行层面。

Google还发布了一批预置的中间件组件,包括:

• 带指数退避的重试处理
• API故障时自动降级到备用模型
• 敏感工具调用的审批关卡
• 文件系统访问控制
• 从本地文件动态注入指令的"技能"系统

这些组件可以堆叠使用,让重试、过滤、审批和日志按定义好的顺序执行。系统还集成进了Genkit开发者UI,可以检查中间件行为、追踪执行流程、调试运行时交互。

这次更新反映了AI工具生态的一个大趋势:给自主系统加运营保障和运行时控制。框架们不再只依赖提示词或模型调优,而是越来越多地添加可编程层来管控模型在执行期间的行为。

公告引发了关于Genkit在Google整体AI工具版图中定位的讨论。X上的开发者在争论Genkit和Google的Agent Development Kit(ADK)有什么区别。

Google软件工程师Michael Doyle出来澄清:如果你的应用(Web、移动端等)想添加智能体功能,用Genkit;如果在构建复杂的独立多智能体系统,比如在GCP智能体平台上运行,用ADK。

这次对话点明了Google的策略:Genkit主要定位是应用层框架,把AI功能集成进现有产品;ADK则瞄准运行在专用基础设施上的大型编排密集型智能体系统。开发者现在就可以通过最新版Genkit开始使用中间件系统,也能发布自定义中间件包跨项目复用。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
港籍航天员黎家盈太空首夜引发争议

港籍航天员黎家盈太空首夜引发争议

阿嬍体育评论
2026-05-26 07:33:32
南宋为了雪靖康之耻,手段有多狠?拼命把百万金人弄到只剩10万

南宋为了雪靖康之耻,手段有多狠?拼命把百万金人弄到只剩10万

鹤羽说个事
2026-05-23 23:01:27
郑钦文哭了:很难接受

郑钦文哭了:很难接受

南方都市报
2026-05-26 10:14:54
人民大会堂女服务万里挑一!选拔标准有多严?她们是什么编制?

人民大会堂女服务万里挑一!选拔标准有多严?她们是什么编制?

鉴史录
2026-05-23 13:19:11
突破,首个台独政党服软!宣布愿意回归中国,但是条件只有一个

突破,首个台独政党服软!宣布愿意回归中国,但是条件只有一个

爱下厨的阿酾
2026-05-26 14:07:37
有没有人敢爆自己的瓜?网友:确定玩这么大吗?

有没有人敢爆自己的瓜?网友:确定玩这么大吗?

夜深爱杂谈
2026-02-18 20:55:58
就今晚8点!樊振东决战法国兄弟,央视破例直播

就今晚8点!樊振东决战法国兄弟,央视破例直播

乒芯21st论坛
2026-05-26 07:00:12
55岁陈志朋称永不退休,不愿蹭苏有朋吴奇隆热度,很多人都不懂我

55岁陈志朋称永不退休,不愿蹭苏有朋吴奇隆热度,很多人都不懂我

八斗小先生
2026-05-26 16:37:42
官宣:C罗出任追觅全球代言人

官宣:C罗出任追觅全球代言人

快科技
2026-05-25 19:25:12
我毕业后娶了曾经的女老师,洞房夜她说:你果然没让我失望

我毕业后娶了曾经的女老师,洞房夜她说:你果然没让我失望

千秋文化
2026-05-21 20:18:04
土耳其媒体:中国长期稳定的治理体系是其快速发展的关键密码

土耳其媒体:中国长期稳定的治理体系是其快速发展的关键密码

国际在线
2026-05-26 11:09:27
津媒:昨晚津门虎俱乐部与球迷代表进行长达3个多小时的恳谈

津媒:昨晚津门虎俱乐部与球迷代表进行长达3个多小时的恳谈

懂球帝
2026-05-26 08:17:29
主角:靠入赘成煤老板的刘四团,为忆秦娥豪掷百万,不过黄粱一梦

主角:靠入赘成煤老板的刘四团,为忆秦娥豪掷百万,不过黄粱一梦

容妃
2026-05-26 16:37:41
伊朗女孩来到中国多年后,再回伊朗娘家,发现已经成了当地富婆!

伊朗女孩来到中国多年后,再回伊朗娘家,发现已经成了当地富婆!

千秋文化
2026-04-16 20:05:09
德国战败后,古德里安为什么能无罪释放?他是一个有底线的军人!

德国战败后,古德里安为什么能无罪释放?他是一个有底线的军人!

小豫讲故事
2026-05-24 06:00:11
美国漫展惊现“新鲜脚汁” 一杯卖15美元

美国漫展惊现“新鲜脚汁” 一杯卖15美元

3DM游戏
2026-05-25 15:33:17
他用镜子“肢解”身体,拍出的照片让所有人倒吸一口凉气

他用镜子“肢解”身体,拍出的照片让所有人倒吸一口凉气

最黑科技
2026-05-25 22:19:20
朱婷姚笛结伴大理度假被网友偶遇 状态轻松惬意终于卸下了所有压力

朱婷姚笛结伴大理度假被网友偶遇 状态轻松惬意终于卸下了所有压力

情感大头说说
2026-05-26 16:19:09
活久见!佛山一养护中心开业请醒狮队表演采青,遭女业主强硬阻挠

活久见!佛山一养护中心开业请醒狮队表演采青,遭女业主强硬阻挠

火山詩话
2026-05-26 11:38:18
郑州一五星级酒店推出12888元自助餐年卡,工作人员:已售出数十张,一年内有效

郑州一五星级酒店推出12888元自助餐年卡,工作人员:已售出数十张,一年内有效

上游新闻
2026-05-26 15:43:26
2026-05-26 17:12:49
硬核玩家2哈
硬核玩家2哈
沉淀中,勿扰
3754文章数 21关注度
往期回顾 全部

科技要闻

今年秋季,麒麟芯片将首次落地"逻辑折叠"

头条要闻

外媒称伊朗愿意"将浓缩铀移至中国" 中方回应

头条要闻

外媒称伊朗愿意"将浓缩铀移至中国" 中方回应

体育要闻

上赛季差点降入英甲,下赛季要踢英超了

娱乐要闻

台媒贴脸!S妈被问大S嗑药当场沉默

财经要闻

中国铝行业爆单 下一个“煤炭”大周期?

汽车要闻

涉水加强 福特烈马亚马逊限量版上市 售价39.98万

态度原创

游戏
房产
艺术
数码
公开课

《逃离塔科夫》道具内存条价格暴跌 可惜不是现实

房产要闻

招商地产接盘碧桂园!海口这个烂尾豪宅,要彻底改命?

艺术要闻

画美,文字也美 | 日本著名画家内田正泰

数码要闻

消息称AMD苏姿丰布局Zen 7:台积电A14工艺、力成FOPLP封装

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版