网易首页 > 网易号 > 正文 申请入驻

AWS Bedrock负责人:更便宜AI与新型智能体未来之路

0
分享至

Atul Deo的目标是让人工智能软件变得既便宜又聪明。

这位Amazon Web Services Inc.的Amazon Bedrock和生成式人工智能负责人,只有六个月时间证明这一目标的可行性,然后就要迎来该公司12月举办的年度re:Invent大会。

"AI领域发展的速度超过了我见过的任何事物,"Deo说道。"模型每隔几周就在改进——但除非经济效益合理,否则客户不会部署它们。"

技术飞跃与生产成本之间的这种紧张关系,正在重新定义云行业的下一阶段。对AWS而言,这意味着不仅要销售最准确的模型,还要提供能防止AI成本失控的基础设施。

对于企业首席信息官来说,这意味着要从华而不实的聊天机器人转向能够执行多步骤任务并证明其价值的"智能体"软件。这些力量共同推动Bedrock——这个托管第三方和亚马逊自研AI模型的两年历史服务——成为这个年收入1000亿美元业务部门内最受关注的产品之一。

模型的激增

自今年1月以来,Bedrock已添加了七个重要模型:Anthropic的Claude Sonnet 4和Opus 4、Meta的开源Llama 4、中国新兴公司DeepSeek,以及亚马逊自己的Nova系列的三个版本,包括Nova Premier。Deo称Nova Premier具有"以折扣价格提供最先进的准确性"。每次发布都在社交媒体上引起可预期的轰动。不太显眼的是让AWS客户能够通过单一应用程序接口在这些模型间切换的许可协议。

太多模型选择就像利率一样:每个人都有自己的看法,而且会在一夜之间改变。"我们的工作是为客户提供选择范围,让他们自己挑选,"Deo说。"我们看到了很多强大的模型。Sonnet 4和Opus 4真的很强大。我们推出的Nova Premier具有非常出色的性价比。"

这种选择范围现在包括Bedrock Marketplace,这是一个面向细分市场模型的"应用商店":一个供制药化学家使用,另一个专门用于呼叫中心录音转录。分析师看到了亚马逊成功的RDS数据库策略的影子,它让客户可以在同一账单上运行Oracle、PostgreSQL或公司自研的Aurora引擎。

工程化降低成本

但仅仅提供选择并不能解决最让财务主管头疼的问题:推理成本,即每次模型产生答案时运行模型的价格。在这里,Deo列举了新的解决方案:

提示缓存——存储查询中冗长的指令部分,避免重复计费。AWS称客户可节省高达90%的成本。

智能提示路由——将简单问题发送给更便宜、更快的模型,将复杂问题发送给重型模型,全部实时进行。

批处理模式——以实时调用一半的单位费率,在夜间处理数百万请求。

模型蒸馏——将大型模型的知识转移到专门针对单一工作流程的精简模型中。

这些功能综合起来,旨在打破云计算怀疑者所称的"Token跑步机",这是对AI系统消耗的文本基本单位的引用。更多Token意味着更多计算周期;更多计算周期意味着更大的账单。现在不再只是关注"首Token延迟"。现在公司想要了解获得答案或完成任务的总成本和时间。这正是Deo和Bedrock整个路线图的重点。

从聊天机器人到智能体

成本控制也是AI下一步发展的前提:执行跨越几分钟、几小时甚至几天任务的自主智能体。早期实验已经在进行中。一家抵押贷款初创公司现在使用Bedrock智能体收集文件、扫描错误并指导借款人完成承保流程,"从几周缩短到几天,"Deo说。房地产公司通过将尽职调查工作委托给类似的机器人,将房产销售时间从三个月缩短到两周。

发生了什么变化?两个要素同时出现。首先,更大的模型——Claude Opus 4、DeepSeek——学会了"大声思考",对自己的答案进行迭代,而不是返回单一的最佳猜测。其次,AWS推出了多智能体协作,这是一个Bedrock功能,将业务流程分配给由不同模型驱动的专业机器人。一个智能体可能使用Anthropic进行深度推理,另一个使用Nova Lite进行大量表单检查,第三个使用专门针对房地产法的垂直模型。

"把它想象成一个项目团队,"Deo先生说。"人力资源、财务、工程——每个智能体都有自己的角色。"

硬件护城河

如果云提供商因自身需求而窒息,这一切都无法实现。AI集群需要数万个高端芯片和相应的电力。据Deo介绍,这就是亚马逊发挥其硅片产品组合优势的地方。用于传统工作负载的基于Graviton的CPU和专为AI训练和推理定制的Trainium 2加速器。Deo说,Bedrock最新的Nova模型完全在Trainium 2硬件上训练,这是一个里程碑,减少了亚马逊对英伟达稀缺GPU的依赖。

"定制硅片是我们改变曲线的方式,"他补充道。"这就是我们能够在提升能力的同时降低价格的原因。"

竞争对手微软已经宣布了Maia AI芯片;谷歌云有TPU。然而,据分析公司Canalys称,AWS在数据中心投资方面继续花费最多的资金。

模型上下文协议:'AI的USB-C'

另一个新兴支柱在技术上具有潜在的变革性:模型上下文协议(MCP)。Deo称之为"AI的USB-C",这是一个标准,让智能体能够动态发现数据源和彼此,在调用间维护状态,并执行安全策略。AWS已经悄然为S3存储和DynamoDB数据库等流行服务发布了MCP服务器实现。

"如果你希望智能体一分钟与工资单对话,下一分钟与Salesforce对话,而无需硬编码API,MCP就是握手协议,"theCUBE Research(SiliconANGLE的姊妹市场研究公司)首席分析师Dave Vellante说。

受监管行业的防护栏

随着智能体逐渐接触医疗记录和贷款审批,企业希望证明模型不会产生幻觉。Bedrock的答案是自动推理,这个功能运行一个独立的验证器——本质上是一个逻辑证明引擎——来验证每个响应。如果验证器无法达到99.9%的置信度,它会标记答案供人工审查。

这种技术借鉴了AWS自己的安全工具,如IAM访问分析器。"我们多年来一直使用形式化方法来验证权限,"Deo说。现在AWS将它们应用到语言上。

摩根大通首席信息官Lori Beer在去年AWS re:Invent会议上对我说,制药和银行业的CIO喜欢这个概念。"对我们来说,生成式AI只是另一个应用程序——但它对网络安全韧性的要求极高,"她说。

可观测性:下一个前沿

即使有了证明机制,公司也必须审计谁——或什么——在何时做了什么。传统的应用性能监控在API调用处停止;智能体需要对整个管道进行X射线般的透视。AWS在CloudTrail中记录每个Bedrock提示和响应,但Deo承认这只是一个开始。"我们需要智能体评估、血缘追踪、回滚工具——相当于自主工作流的Git历史,"他说。

观察者预期在re:Invent之前会有新服务,用于可视化智能体流程并标记准确性或合规性的偏移。

三层堆栈

Deo的团队将Bedrock定位为三层策略的中间层:

基础设施——定制芯片(Trainium、Graviton)和Amazon SageMaker,供想要构建或精细调整自己模型的客户使用。

Bedrock平台——现成的和第三方模型,以及提示缓存和多智能体协作等工具。

应用程序——完全托管的软件,如Q Developer和Q Business,让程序员和业务分析师能够用普通英语编写查询。

目标是:让对冲基金量化分析师深入使用SageMaker,同时让非技术保险理赔员将文件拖入Q Business并立即获得理赔报告——两者都由相同的Bedrock基元支撑。

独角兽公司的单人创业

新堆栈最激进的含义或许是Deo所说的"单人创业独角兽"。"你将看到由单个个人驱动的数十亿美元公司——这是时间问题,而不是可能性问题,"他说。这些工具现在抽象化了基础设施、编码语法甚至业务流程连接。

这一前景让风险投资家兴奋,让现有企业紧张。这也解释了亚马逊的紧迫感:Bedrock每延迟一个月推出功能,就可能让车库创业公司选择不同的云平台。

规模化冲刺

AWS能否在承载万亿美元母公司利润负担的同时保持冲刺?六个月的云业务成果——七个模型、四个成本节约工具、两个新协议——表明它可以做到。然而,谷歌和微软将以自己的降价和智能体工具包作为回应。从欧洲到华盛顿的监管机构正试图监管和理解AI供应链。

Deo回到AWS的共同主题。"速度是我们的优势,"他说,呼应了AWS首席执行官Matt Garman的口号。"我们必须比客户的想象力更快地交付硬件、成本控制、防护栏和创新。"

换句话说,世界上最大的云服务商必须表现得像一家初创公司——同时运营着小城市规模的数据中心。Atul Deo合上了他的笔记本;下周又有一个模型发布。

观察者预期在re:Invent之前会有新服务,用于可视化智能体流程并标记准确性或合规性的偏移。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国男篮65-60荷兰 球员评价:1人优秀,6人及格,5人低迷

中国男篮65-60荷兰 球员评价:1人优秀,6人及格,5人低迷

篮球资讯达人
2026-06-23 21:23:04
广德车祸事件:肇事者事后冷漠与傲慢。其闺蜜还发文,说肇事者也是受害者。

广德车祸事件:肇事者事后冷漠与傲慢。其闺蜜还发文,说肇事者也是受害者。

贴小君
2026-06-23 13:28:51
1983年,杨得志女婿被流氓打死,解放军冲进南阳,将凶手全部击毙

1983年,杨得志女婿被流氓打死,解放军冲进南阳,将凶手全部击毙

年代回忆
2026-06-23 23:50:26
俄国家重器太空中心遭导弹击中,欧盟警告白俄:乌克兰有权自卫!

俄国家重器太空中心遭导弹击中,欧盟警告白俄:乌克兰有权自卫!

史政先锋
2026-06-23 20:51:37
独家对话“纸尿裤风波”第一爆料人王东鉴:如果我错了,道歉、赔偿甚至坐牢,都接受

独家对话“纸尿裤风波”第一爆料人王东鉴:如果我错了,道歉、赔偿甚至坐牢,都接受

每日经济新闻
2026-06-24 00:49:27
第一次见这么牛的网约车司机!男子使唤司机放行李,自己空手上车,司机直接丢下行李开走

第一次见这么牛的网约车司机!男子使唤司机放行李,自己空手上车,司机直接丢下行李开走

网约车观察室
2026-06-23 09:54:42
《求是》全新提法:房地产调整让居民家底变薄,需修复资产负债表

《求是》全新提法:房地产调整让居民家底变薄,需修复资产负债表

丁建刚房产
2026-06-23 17:03:20
乌克兰摧毁莫斯科的太空通信中心!重创俄军火车站

乌克兰摧毁莫斯科的太空通信中心!重创俄军火车站

项鹏飞
2026-06-23 20:08:08
跑90分钟都不散 哈兰德成世界杯上唯一一个与头绳合作的男球星

跑90分钟都不散 哈兰德成世界杯上唯一一个与头绳合作的男球星

封面新闻
2026-06-23 13:28:51
新疆小伙Cos耶稣火出圈!一言不合就戴荆棘冠,连线老外当场懵圈

新疆小伙Cos耶稣火出圈!一言不合就戴荆棘冠,连线老外当场懵圈

大又元
2026-06-23 18:08:03
ESPN记者:拿下字母哥后,热火已将其老队友米德尔顿视为目标

ESPN记者:拿下字母哥后,热火已将其老队友米德尔顿视为目标

懂球帝
2026-06-23 21:32:06
内塔尼亚胡拒绝撤离黎巴嫩,特朗普称能解决

内塔尼亚胡拒绝撤离黎巴嫩,特朗普称能解决

澎湃新闻
2026-06-23 23:16:08
断交13年的同事突然寄给我一箱腊肉,我把它送给对门邻居,当天晚上12点,他把腊肉还回来:箱子底下有东西

断交13年的同事突然寄给我一箱腊肉,我把它送给对门邻居,当天晚上12点,他把腊肉还回来:箱子底下有东西

大爱三湘
2026-06-23 22:46:50
某地瑜伽馆惊现印度男人教练不堪入目,网友说:瑜伽是印度房中术

某地瑜伽馆惊现印度男人教练不堪入目,网友说:瑜伽是印度房中术

黯泉
2026-06-23 17:44:53
历史首人!C罗连6届世界杯进球+梅开二度 刷爆纪录再现标志性庆祝

历史首人!C罗连6届世界杯进球+梅开二度 刷爆纪录再现标志性庆祝

醉卧浮生
2026-06-24 01:25:51
埃及足协透露:萨拉赫等人被禁止飞往美国,世界杯球队发布公告

埃及足协透露:萨拉赫等人被禁止飞往美国,世界杯球队发布公告

十夏九漓
2026-06-23 20:11:00
“他是我们家的参天大树!”外孙患病只剩18个月,特效药70万一针,外公悉心照顾“续命”9年:女儿刚40岁,头发白了大半,能帮一把是一把

“他是我们家的参天大树!”外孙患病只剩18个月,特效药70万一针,外公悉心照顾“续命”9年:女儿刚40岁,头发白了大半,能帮一把是一把

都市快报橙柿互动
2026-06-23 02:51:06
娜然辱华言论曝光,霍家婚讯紧急刹车,郭晶晶一句话把门堵死了

娜然辱华言论曝光,霍家婚讯紧急刹车,郭晶晶一句话把门堵死了

李橑在北漂
2026-06-22 16:20:54
突发黑天鹅,全线暴跌!

突发黑天鹅,全线暴跌!

君临财富
2026-06-23 15:30:51
男子16万余元购入路虎揽胜极光L,指导价近43万元,因成交价过低,原本1万多元购置税可能要翻倍;4S店:等待沟通结果

男子16万余元购入路虎揽胜极光L,指导价近43万元,因成交价过低,原本1万多元购置税可能要翻倍;4S店:等待沟通结果

封面新闻
2026-06-23 10:34:27
2026-06-24 03:48:49
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
19542文章数 49713关注度
往期回顾 全部

科技要闻

48名中国开发者联名举报苹果

头条要闻

葡萄牙5-0乌兹别克斯坦 C罗梅开二度

头条要闻

葡萄牙5-0乌兹别克斯坦 C罗梅开二度

体育要闻

扬尼斯去了迈阿密:凯尔特人怎么办?

娱乐要闻

内娱95后顶流格局发生潜移默化的变化

财经要闻

AI“算力稀缺”信仰开始动摇?

汽车要闻

施鹏泽:为什么奥迪E7X强调座舱气味安全?

态度原创

亲子
本地
数码
教育
军事航空

亲子要闻

宝妈带娃避雨后续!酒店晒监控,真相完全不一样,双方已达成谅解

本地新闻

吃一次广东龙舟饭,才懂什么是豪华盛宴

数码要闻

Meta推出299美元智能眼镜新系列 加倍押注AI硬件平台

教育要闻

出分在即!这件事没做对,艺考分再高也白搭 用对工具,志愿填报少走90%弯路

军事要闻

以色列总理、国防部长和国防军总参谋长发表联合声明

无障碍浏览 进入关怀版