北京
谷歌 Gemini 模型即将支持本地部署，可通过搭载 NVIDIA Blackwell 架构的基础设施，在 Google 分布式云上运行 NVIDIA 机密计算。
NVIDIA 正在与谷歌云合作，为希望使用 NVIDIA Blackwell HGX 和 DGX 平台以及 NVIDIA 机密计算技术本地化运行谷歌 Gemini AI 模型系列的企业引入代理式 AI，以保证数据安全。
借助 Google 分布式云上的 NVIDIA Blackwell 平台，本地数据中心可借助敏感信息访问权限严格管控（例如病患档案、金融交易和政府涉密信息），确保符合监管要求和数据主权法律。NVIDIA 机密计算还可以保护 Gemini 模型中的敏感代码免于未经授权的访问和数据泄露。
“通过将我们的 Gemini 模型与 NVIDIA Blackwell 的突破性性能和机密计算能力引入本地部署环境，企业得以充分释放代理式 AI 的全部潜能，”谷歌云副总裁兼基础设施和解决方案总经理 Sachin Gupta 表示。“此次合作有助于确保客户在不牺牲性能或操作简易性的前提下，安全地实现技术创新。”
基于 NVIDIA Blackwell 的机密计算可以为企业提供技术保障，确保用户向 Gemini 模型的应用编程接口提交的指令及模型微调数据均全程加密，无法被查看或修改。
同时，模型所有者可以防范未经授权的访问或篡改，提供双层保护，使企业使用 Gemini 模型进行创新的同时，还能保障数据隐私。
AI 智能体驱动新的企业应用
随着代理式 AI 正在推动企业技术变革，并提供更强的解决问题能力，这一新产品应运而生。
与基于学习知识进行感知或生成的 AI 模型不同，代理式 AI 系统可以在动态环境中进行推理、调整并做出决策。例如，在企业 IT 支持中，知识型 AI 模型可以检索并给出故障排除指南，而代理式 AI 系统则能诊断问题、执行修复并自主完成复杂问题升级。
同样，在金融领域，传统 AI 模型可以根据模式标记潜在的欺诈交易，但代理式 AI 系统不仅能溯源异常数据，更能进行主动干预（例如拦截可疑交易或实时调整欺诈检测规则）。
本地困境
虽然许多用户已经可以使用具有多模态逻辑推理能力的模型——通过整合文本、图像、代码等多类数据来解决复杂问题，并构建基于云的代理式 AI 应用，但对于那些有严格安全要求或数据主权要求的客户来说，尚无法做到这一点。
此次发布后，谷歌云将成为首批提供机密计算功能的云服务提供商之一，以保护各类环境中的代理式 AI 工作负载（无论是云还是混合环境）。
该解决方案由搭载 NVIDIA Blackwell GPU 和采用 NVIDIA 机密计算的 NVIDIA HGX 平台提供支持，助力客户保护 AI 模型和数据，使用户能够在不损害数据安全性或模型完整性的前提下实现突破性的性能和能效。
代理式 AI 的 AI 可观测性和安全性
在生产环境中扩展代理式 AI 需要构建强大的可观测性和安全保障体系，以确保系统性能可靠并满足合规要求。
谷歌云宣布推出全新 GKE 推理网关 (GKE Inference Gateway)，旨在通过先进的路由和扩展能力优化 AI 推理工作负载的部署。该网关集成 NVIDIA Triton 推理服务器以及 NVIDIA NeMo Guardrails，提供智能负载均衡，能够提升性能并降低服务成本，同时实现模型的集中式安全防护和治理。
展望未来，谷歌云正在通过集成 NVIDIA Dynamo 来增强代理式 AI 工作负载的可观测性。NVIDIA Dynamo 是一个开源库，用于加速并扩展 AI 工厂的 AI 逻辑推理模型。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
