Anthropic混合推理模型来了 亚马逊云科技已上架

2月25日消息，据悉，Anthropic的首款混合推理模型Claude Sonnet 3.7在发布的第一时间已同步上线Amazon Bedrock。

据介绍，作为Anthropic迄今为止最智能的模型，Claude 3.7 Sonnet是其首个混合推理模型，既能快速响应也能进行深度思维，意味着它能通过细致、逐步的推理解决复杂问题。此外，Claude 3.7 Sonnet今日也被加入Amazon Q Developer的模型列表中，借助Amazon Q，开发者可以为特定任务选择最合适的模型，支持更高级的编码工作流程，高效开发。

资料显示，Claude 3.7 Sonnet在模型思考方式上采取了不同的策略。它并未采用单独的模型来分别处理快速作答和解决复杂问题，而是将推理作为单一模型的核心能力进行整合。这种结合方式更类似于人类大脑的运作模式。

该模型提供两种模式——标准模式和深度思考模式，可在Amazon Bedrock中切换。在标准模式下，Claude 3.7 Sonnet是Claude 3.5 Sonnet的升级版；在深度思考模式下，模型会花费额外时间详细分析问题、规划解决方案并综合多角度思考后再给出响应，从而实现性能的进一步提升。用户可通过选择何时启用推理能力来控制速度和成本。深度思考的token数计入上下文窗口，并按输出token计费。

据了解，Claude 3.7 Sonnet在编码领域具备优势，擅长理解上下文与创造性解决问题。根据Anthropic的数据，其标准模式在SWE-bench Verified上的成绩为70.3%。Claude 3.7 Sonnet在多数基准测试中的表现也优于Claude 3.5 Sonnet。据介绍，这些增强能力使其成为驱动AI智能体和复杂工作流的理想选择。

据亚马逊云科技方面介绍，使用Amazon Bedrock中的Claude 3.7 Sonnet时，用户可控制思考预算。这种灵活性帮助用户在速度、成本和性能之间权衡。通过为复杂问题分配更多推理token，或限制token以加快响应速度，用户可根据具体用例优化性能。

在场景层面，企业可创建直接与客户交互的AI助手与智能体；在医疗领域，它能辅助医学影像分析与研究摘要；在金融服务领域，它解决复杂金融建模问题的能力能带来诸多益处。对于开发者而言，它可作为编码助手，审查代码、解释技术概念，并针对不同语言提出改进建议。

亚马逊云科技CEO Matt Garman表示：“Claude 3.7 Sonnet现已在Amazon Bedrock上线，它代表了人工智能推理技术的一项进步。作为Anthropic目前最智能的模型，3.7 Sonnet引入了混合推理功能，既能快速响应，又能进行深入分析，并且可以在这两种模式之间切换。这意味着它具备非凡的灵活性，无论是驱动面向客户的人工智能智能体，还是处理复杂的工作流程，都能对速度、性能和成本进行控制。”（定西）