从Amazon Bedrock，看云厂商如何在AI时代重塑竞争力

生成式AI时代，云计算厂商的价值正在被重新定义。从云上AI基础设施提供方，逐步升级为企业一站式AI生产力赋能平台。

2024 re:Invent大会期间，亚马逊云科技推出全新升级的Amazon Bedrock。作为全托管的生成式AI服务，Amazon Bedrock一举发布21项新特性，成为涵盖模型选择、生产环境、训练和推理工具、创建智能体的一站式AI平台。

亚马逊云科技将生成式AI分为三层技术栈体系：基础设施层、模型工具层、应用层，Amazon Bedrock是其中最重要的模型工具层。Amazon Bedrock承载了全球100+主流模型，并通过成本、速度、准确率全面优化，不断降低企业应用生成式AI的门槛。

通过五个方面的升级，Amazon Bedrock为云厂商如何在AI时代重塑竞争力探索了方向。

一个平台，一站式接入100+主流基础模型

Amazon Bedrock在模型接入的丰富程度上处在业界领先水平。这背后的底层逻辑是，亚马逊云科技致力于让企业有更多自由选择空间，可以根据不同场景选择更匹配的基础模型。

2024 re:Invent，Amazon Bedrock新加入了亚马逊自研的六款Amazon Nova系列模型，以及Stability AI的Stable Diffusion 3.5 Large、视频生成模型Luma AI的Ray 2、软件工程模型poolside的malibu和point等模型。

亚马逊云科技还推出了Amazon Bedrock Marketplace，可接入上百个受欢迎的新兴模型和专业模型。包括Mistral AI的Mistral NeMo Instruct 2407、Technology Innovation Institute的Falcon RW 1B以及NVIDIA NIM微服务等热门模型。此外，还有众多专业模型，如用于金融行业的Writer的Palmyra-Fin、用于翻译的Upstage的Solar Pro、Camb.ai的文本转音频MARS6以及用于生物学的EvolutionaryScale的ESM3生成模型等。

“如今，每天都有数以万计的客户在生产应用中使用Amazon Bedrock，仅去年其使用量就增长了近5倍。”亚马逊云科技CEO Matt Garman表示。

全球领先的软件企业SAP将Amazon Nova模型集成到自身大语言模型（LLMs）家族中，方便开发者为SAP的AI助手Joule创建新技能，实现自动化、个性化以及供应链规划等高级功能。

成本、速度、性能全面优化，降低企业AI应用门槛

成本、速度、性能是企业选择模型的三大要素。企业在应用生成式AI技术过程中，都希望找到一个能平衡性能、成本和延迟的最佳组合。

Amazon Bedrock推出提示词缓存、提示词智能路由、模型蒸馏三项新功能，极大降低企业使用成本。

提示词缓存功能最高可将成本降低90%，并将延迟最多缩短85%。借助Amazon Bedrock上的提示词缓存功能，Adobe的Acrobat AI助手实现了将响应时间缩短72%。

提示词智能路由功能，使客户能够配置 Amazon Bedrock 自动把提示词分配至同一模型系列里的不同基础模型，以优化响应质量和成本。

模型蒸馏能把大模型的知识转移到小模型上，同时保留小模型的性价比。借助Amazon Bedrock模型蒸馏功能，任何客户都可以蒸馏出自己的模型，与原始模型相比，被蒸馏模型的速度可以提高500%，运行成本降低75%，在检索增强生成（RAG）等用例中，准确性损失低于2%。

此外，Amazon Bedrock还推出了低延迟优化推理功能，用户指定推理请求优先级后，平台就可以自动处理，为支持的指定模型提供优化的性能。

“我们开发Amazon Bedrock的目的不仅是提供模型，更重要的是提供能让模型推理运行时所需的各种生产力工具和生产环境工具，这才是Amazon Bedrock的真正价值所在。”亚马逊云科技大中华区产品部总经理陈晓建表示。

结构化数据检索和GraphRAG，提升模型性能

多模态数据处理和图数据库是企业构建生成式AI必不可少的能力。

Amazon Bedrock知识库新增的结构化数据检索功能使客户能够直接查询其生成式AI应用程序中结构化数据的存储位置。借助这项新功能，提示词信息会转换为SQL查询，用于检索数据结果。

Amazon Bedrock知识库还新加入的对GraphRAG的支持功能，可生成更具相关性的响应，让客户无需具备图数据库专业知识，即可使用Amazon Neptune图数据库服务自动生成图谱。这大大简化了构建RAG应用的步骤,能够更便捷地生成更准确、更相关的响应，借助知识图谱识别相关联系，并查看源信息以了解模型如何得出特定响应。

宝马集团借助由Amazon Neptune支持的GraphRAG自动化图形建模功能，持续更新其人工智能助手MAIA所需的知识图谱，从其数据资产中提供更具相关且全面的洞察，为数百万车主打造优质体验。

自动推理检查，降低模型幻觉

即使是能力最强的模型也会产生幻觉，提供不正确或误导性的响应。幻觉仍然是大模型落地的一个根本挑战，限制了企业对生成式AI的信任。

Amazon Bedrock Guardrails新推出自动推理检查功能，该功能可让Amazon Bedrock验证事实响应的准确性，生成可审计的输出，并向客户清晰展示模型得出结果的原因。

“有了自动推理技术，我们能够通过数学验证方式严密证明事实性错误是否会发生，从而有效改善幻觉问题。”陈晓建表示。

多智体协作，让生成式AI驾驭复杂任务

随着生成式AI的加速落地，更多复杂的任务和场景需要，需要大量各具专长的智能体高效协作。然而，很多企业并不具备创建协调多个智能体系统的专业能力。

Amazon Bedrock多智能体协作功能，让企业可以通过为项目的特定步骤创建和分配专用智能体，从而获得更准确的结果，并通过编排多个并行工作的智能体来加速任务。

穆迪公司是信用评级和金融洞察领域的全球领导者，已选择Amazon Bedrock多智能体协作功能来增强其风险分析工作流程。

可以看出，Amazon Bedrock升级的五大方面都是切中当下企业应用生成式AI的痛点。在推动生成式AI在各行业的广泛应用方面，Amazon Bedrock引领云厂商从传统的基础设施提供者向一站式AI赋能平台升级，探索了云厂商在AI浪潮中重塑竞争力的全新路径。