本周,甲骨文云抛出一则让OCI开发者心跳加速的消息:轻量级大模型网关LiteLLM正式成为甲骨文生成式AI基础设施的原生提供商。不是社区插件,也不是靠第三方接口糊的一层壳,是直接长在OCI骨血里的官方通路。
这次官宣在LinkedIn上激起一圈涟漪,但很多人没注意到,这条简短消息背后藏着一整套闷声做完的大工程。它意味着你现在可以把推理请求,通过LiteLLM直接导向甲骨文生成式AI基础设施上托管的所有模型。网关自动替你扛下OCI签名v1的请求签名,同时也把生产环境里你最关心的那些控制机制全都卷了进来:预算、速率限制、结果缓存、内容护栏,一个不少。
真正让老OCI用户坐不住的是附带的模型目录。这张单子比外界以为的厚得多——Meta的Llama 4家族全在,从Maverick到Scout,再到Llama 3.3和3.2视觉版;xAI的Grok也没缺席,Grok 4、Grok 3、Grok Code一字排开。
Cohere则一口气端出Command A、Command R+两个对话模型,外加Embed v4、v3两个向量化版本;甚至通过OCI还能调上Google Gemini系列和OpenAI的多款模型。一句话,你在市面上眼馋的底座模型,甲骨文云几乎替你打包好了。
这种集中化的模型供给,背后是极其简洁的架构:应用代码只和LiteLLM对话,LiteLLM处理所有厂商适配与请求签名,甲骨文专注推理,中间没有任何额外跳转或中间件。继AWS Bedrock AgentCore和Cisco AI Defense之后,甲骨文成为最新一家将LiteLLM直接做成原生集成的云巨头。趋势已经摆上台面——这些团队要的,是一个统一接口吃掉所有模型的能力,而不再是各自为战的独立网关。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.