八年前Meta就有万亿参数模型了,可现在那些模型基本都退休养老了。这年头,做AI应用最值得琢磨的地方,反而不是模型本身有多大,而是你能不能管得住它在生产环境里的一举一动。谷歌刚刚开源的Middleware for Genkit,给这个趋势添了个很具体的注脚。
Genkit本身是个开源框架,用来构建基于人工智能的代理型应用。这次新增的中间件,核心功能是在模型调用、工具执行、生成循环这三个环节,插进去一个可编程的拦截层。开发人员现在可以将自定义行为注入工作流,比如添加重试、模型回退、日志记录,而不需要改动应用程序逻辑本身。谷歌的说法很直白:每次generate()调用,本质上是一个工具循环——模型生成输出、执行工具、处理结果,一直跑到结束。中间件的钩子,正好卡在生成阶段、模型调用阶段、工具执行阶段这三个层面。
![]()
这种设计思路,等于给开发流程装上了多个可插拔的安全阀。谷歌同时发布了几款预构建的中间件组件:一个采用指数退避算法的重试处理机制,一个应用程序接口(API)失败时自动切换到备用模型的功能,一个针对敏感工具调用的审批环节,文件系统访问控制,还有一个能从本地文件动态注入指令的“技能”系统。有意思的地方在于,这些组件能堆叠使用,让重试、过滤、审批、日志按预先排好的顺序依次执行。你完全可以想象,一个生产级系统里,日志记录先跑,审批卡在中间,重试垫后,整套流程不用去改业务代码。
这一点也直接反映在开发体验上。中间件系统已经接入Genkit的开发界面(UI),开发人员可以在界面里检查中间件行为、追踪执行流程、调试运行时交互。对落地团队来说,这大幅降低了排查问题的门槛。Genkit目前支持TypeScript、Go、Dart,Python支持也即将推出。
这次发布也搅动了开发者社区的一个讨论:Genkit和谷歌自家另一个框架——Agent Development Kit(ADK)——到底怎么区分?谷歌软件工程师Michael Doyle在社交平台X上给了个很清晰的厘清。你有现成的应用程序,比如网页端、移动端之类的,想给它加上多智能体功能,那就用Genkit。如果你正在构建一个复杂、独立的多智能体系统,比如跑在谷歌云平台(GCP)的Agent Platform上,那就该选ADK。换句话说,Genkit被明确定位为应用层框架,侧重把人工智能(AI)能力铺进已有产品里;ADK则面向部署在专用基础设施上的、以编排为主的大型代理系统。
这其实引出了一个更宏观的信号。整个AI工具生态正在集体往一个方向挪:自主系统不能只靠提示词或者模型调优来保底,得在运行时加入可编程的控制层,来管住模型在执行环节的真实行为。框架不再只是把接口暴露出来就好,而是在中间塞进一层运行保障机制。开发者拿到Genkit最新版就能直接用这套中间件系统,还能发布自定义中间件包,在不同项目间复用。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.