网易首页 > 网易号 > 正文 申请入驻

怎么用DeepSeek高效开发应用?解读亚马逊云科技三大秘籍

0
分享至

智东西2月17日报道,随着DeepSeek展现出开源的威力,大模型竞赛有了新的叙事方式,各路云计算厂商接连宣布接入DeepSeek模型,但实际提供的服务质量却参差不齐。这与云服务背后的基础设施和工程化能力密切相关。

企业部署和使用模型过程中,需要综合考量性能与成本之间的权衡、能否针对私有数据进行定制优化、数据和模型安不安全、是否便于实现各种智能体的复杂调度等因素。亚马逊云科技则通过在云和AI领域展开的全栈式创新,兼具云端本身的优势、多样化模型选择的优势,并提供了一系列快速将模型运用到企业化生产环境中所需的重要工具。

作为最早适配并上线DeepSeek的云巨头之一,亚马逊云科技现已推出针对DeepSeek-R1模型多种不同的部署方式,以便企业能在熟悉的亚马逊云科技环境中轻松部署该系列模型,例如在Amazon Bedrock Marketplace中部署,或在Amazon SageMaker Jumpstart中部署,也可以通过Amazon Bedrock自定义导入功能或Amazon EC2 Trn1实例中部署DeepSeek-R1-Distill系列模型。

一、云端部署:灵活可扩展,与丰富服务无缝集成

相比本地部署,云端部署的优势是算力资源更充足,而且灵活可扩展。同时在云端部署能够与丰富且成熟的分析、数据等基础服务进行无缝集成。作为全球云计算的开创者,亚马逊云科技近20年来积累了深厚的技术根基,引领了一代代的云端基础设施创新,在提高算力利用率、加速模型开发等方面都有长期经验。

比如在自研芯片领域,亚马逊云科技推出了基于Amazon Trainium2的EC2 Trn2实例,性价比比当时GPU实例高30%-40%。还有第二代的UltraCluster网络架构,支持超过20000个GPU协同工作,带宽达10Pb/s,延迟低于10ms,这一升级能够将模型训练时间缩短至少15%。

亚马逊云科技推出的新一代Amazon SageMaker,将快速SQL分析、PB级大数据处理、数据探索和集成、模型开发和训练以及生成式AI等功能统一到一个集成平台,从而为客户提供一个单一的数据和AI开发环境,用户可以在其中查找和访问其组织中的所有数据,为各种常见的数据用例选择最佳工具,并将数据和AI项目扩展至团队内不同分工角色以实现协作。

亚马逊云科技大中华区产品部总经理陈晓建谈道,亚马逊云科技不仅在云的核心服务层面持续创新,更在从芯片到模型,再到应用的每一个技术堆栈取得突破,让不同层级的创新相互赋能、协同进化。

他相信只有这样全栈联动的大规模创新,才能真正满足当今客户的发展需求,加速前沿技术的价值释放。

二、多样化模型选择,按需组出性价比

跟其他云服务大厂相比,亚马逊云科技生成式AI服务的一大特色,就是模型选择多。

基于“不会有一个模型一统天下”的判断,亚马逊云科技在自研大模型的同时,也将来自不同企业、不同功能的领先大模型汇聚在一起,放到云中的“大模型货架”上,供客户按需实现最具性价比的组合。

在实际构建生成式AI应用时,不同应用场景需要的性能、成本、响应速度、微调能力、知识库协调能力、多模态支持能力等技术指标各不相同。比如在快速响应场景,需要花一些时间推理的DeepSeek R1深层思考模式就不太适用,其生成首个token的用时可能要超过30秒;而Amazon Nova模型的响应就非常快,只耗时数百毫秒。

此前其“大模型货架”上已经有来自AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI、Luma AI和poolside等知名厂商的大模型。亚马逊云科技还在不断扩展其模型“朋友圈”。

比如上个月Amazon Bedrock平台刚刚上线了Luma AI的最新版视频生成模型Ray 2模型,可以广泛用于内容创建、娱乐、广告和媒体使用案例,从而简化从概念到执行的创意流程。

亚马逊云科技的Amazon Bedrock Marketplace功能为客户提供100多个热门、新兴及专业模型,DeepSeek-R1就包含在内。

三、企业级AI工具全家桶:从性能提升到复杂多智能体编排

选择合适的模型,下一步是如何高效解决工程化难题。

Amazon Bedrock聚焦企业应用AI的实际需求,提供了企业AI工具全家桶,涉及模型从原型走向企业化生产环境时必须要考虑的方方面面的工具,以便开发者基于领先模型来快速构建应用。

例如DeepSeek模型有不同参数量,小至几十亿,多达6710亿。要实现完整部署R1并实现尽可能好的推理和响应,需要如Amazon EC2 P5e性能级别的硬件和配套的便捷工具。

亚马逊云科技提供的实用工具有助于优化成本、根据自有数据定制提升准确性、安全性以及针对未来复杂的多智能体构建和管理等。可以简要概括为以下4类:

1、优化效果、延迟和成本:如低延迟优化推理、模型蒸馏、提示词缓存等功能,大幅提升推理效率。其中模型蒸馏功能可将特定知识从功能强大的大模型转移到更小更高效的模型,运行速度最快可提高500%,成本降低75%。

2、基于企业自有数据的定制优化:模型微调功能、知识库功能不断丰富,现已支持GraphRAG等图数据,能够快速且经济高效地从文档、图像、音频以及视频中提取信息,并将其转换为结构化格式的Amazon Bedrock Data Automation功能等。

3、负责任AI的安全和审查:Amazon Bedrock不断丰富其护栏功能,以简化企业实施负责任AI所需的投入,例如为其加入自动推理检查功能,从而能够轻松识别事实性错误,以提升生成回答的准确性。

4、实现复杂功能的多智能体功能:Amazon Bedrock不但提供智能体功能,还进一步推出了多智能体协作功能,使客户能够轻松地构建和协调专业智能体来执行复杂的工作流程。客户可以通过为项目的特定步骤创建和分配专用智能体,获得更准确的结果并加速任务。

▲在Amazon Bedrock模型定制页面部署DeepSeek 88Llama Model

结语:用全栈式创新托举企业级AI构建

在2024 re:Invent上,亚马逊CEO Andy Jassy曾分享亚马逊自身部署AI中的三项关键洞察:首先,随着生成式AI应用规模的扩大,计算成本变得至关重要;人们非常渴望获得更高的性价比;其次,构建一个真正优秀的生成式AI应用非常困难;第三,永远不会有单一的工具能够统治世界,要提供多样化的模型,让开发者自由选择。

亚马逊云科技在云端部署方面的灵活可扩展性、多样化模型选择以及实用工具的提供,则无一不是对这些洞察的有力回应。

通过上述三大优势,亚马逊云科技正在帮助企业更快更好地运用领先的模型。亚马逊云科技对DeepSeek的积极拥抱,也在践行其此前向客户所承诺的——托管最流行的、具有创新性的AI模型。随着DeepSeek催化开源风暴,未来我们将看到更多优质新模型的诞生,而无论模型种类如何繁多,亚马逊云科技的全栈式创新都形成稳固的托举。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
女人为还赌债,被迫在两人围观下发生关系,她的结局最终是怎样

女人为还赌债,被迫在两人围观下发生关系,她的结局最终是怎样

长安一孤客
2026-03-25 16:22:18
黄仁勋:芯片公司的时代已经结束了

黄仁勋:芯片公司的时代已经结束了

芯榜
2026-03-26 01:34:50
张雪峰早就防着这一天了:为女儿注册40枚商标,防亲戚父爱太沉重

张雪峰早就防着这一天了:为女儿注册40枚商标,防亲戚父爱太沉重

墨染时光
2026-03-26 07:50:31
又是1-3、又是输在决赛!向鹏淘汰温瑞博,获世乒赛参赛资格

又是1-3、又是输在决赛!向鹏淘汰温瑞博,获世乒赛参赛资格

十点街球体育
2026-03-25 20:08:11
1965年,毛主席点名让彭德怀复出,背后有人拼命阻挠,这人后来判了18年

1965年,毛主席点名让彭德怀复出,背后有人拼命阻挠,这人后来判了18年

史海孤雁
2026-03-25 18:31:11
终于知道广东人为啥不抑郁了!网友:西医叫抑郁,中医叫郁结

终于知道广东人为啥不抑郁了!网友:西医叫抑郁,中医叫郁结

另子维爱读史
2026-03-25 22:34:08
3轮0球0助攻!U23国足天才新星踢中超状态断崖式下滑,恐沦为鸡肋

3轮0球0助攻!U23国足天才新星踢中超状态断崖式下滑,恐沦为鸡肋

零度眼看球
2026-03-26 07:41:28
中国移动正式发布通知:全国将统一执行:4月30日起

中国移动正式发布通知:全国将统一执行:4月30日起

云舟史策
2026-03-26 07:34:02
大崩盘!骑士最多落后高达21分:全队三分15中3,哈登心不在焉

大崩盘!骑士最多落后高达21分:全队三分15中3,哈登心不在焉

体坛小李
2026-03-26 08:53:49
伊朗伊斯兰革命卫队责令一艘擅自通过霍尔木兹海峡船只返航

伊朗伊斯兰革命卫队责令一艘擅自通过霍尔木兹海峡船只返航

财联社
2026-03-25 02:02:18
雷霆遭绿军逆转结束12连胜:亚历山大33+8创纪录 布朗31+8+8

雷霆遭绿军逆转结束12连胜:亚历山大33+8创纪录 布朗31+8+8

醉卧浮生
2026-03-26 10:06:01
何洁自曝养家艰难,40岁断崖式衰老?明明一手好牌,为何被打烂

何洁自曝养家艰难,40岁断崖式衰老?明明一手好牌,为何被打烂

扒点半吃瓜
2026-03-10 07:00:13
6岁男孩躲避母亲殴打离家22年,长大方知母亲悲惨人生

6岁男孩躲避母亲殴打离家22年,长大方知母亲悲惨人生

孤酒老巷QA
2026-03-25 20:19:35
人社部明确:事业编制改革启动,3100万人的“铁饭碗”要变了

人社部明确:事业编制改革启动,3100万人的“铁饭碗”要变了

慧眼看世界哈哈
2026-03-24 06:36:05
战场奇迹!1台乌军机器人死守阵地45天硬刚俄军冲杀和机枪扫射

战场奇迹!1台乌军机器人死守阵地45天硬刚俄军冲杀和机枪扫射

子桑说
2026-03-25 17:27:05
传张雪峰二婚妻子清纯甜美:去年已生子,11岁女儿遗传继承恐生变

传张雪峰二婚妻子清纯甜美:去年已生子,11岁女儿遗传继承恐生变

博士观察
2026-03-25 21:33:04
成都“牵手门”事件女主现今状况曝光,太惨了......

成都“牵手门”事件女主现今状况曝光,太惨了......

许三岁
2026-03-17 07:34:05
章泽天看展带火春日穿搭叫“针织衫+弯刀裤”,配色清新很少女!

章泽天看展带火春日穿搭叫“针织衫+弯刀裤”,配色清新很少女!

明星私服穿搭daily
2026-03-26 09:44:53
太阳报:大量枪迷想抢票见证夺冠,西汉姆联严查主队看台购票

太阳报:大量枪迷想抢票见证夺冠,西汉姆联严查主队看台购票

懂球帝
2026-03-26 13:21:13
研究所所长猥亵下属后续,女主多张高清照曝光,知情人再爆料

研究所所长猥亵下属后续,女主多张高清照曝光,知情人再爆料

观察鉴娱
2026-03-26 09:25:28
2026-03-26 14:12:49
智东西 incentive-icons
智东西
聚焦智能变革,服务产业升级。
11433文章数 117015关注度
往期回顾 全部

科技要闻

Meta高管狂分百亿期权,700名员工却下岗

头条要闻

伊朗议长和外长暂被移出美以清除名单 时限4到5天

头条要闻

伊朗议长和外长暂被移出美以清除名单 时限4到5天

体育要闻

35岁替补门将,凭什么入选英格兰队?

娱乐要闻

张雪峰家人首发声 不设追思会丧事从简

财经要闻

黄仁勋:芯片公司的时代已经结束了

汽车要闻

一汽奥迪A6L e-tron开启预售 CLTC最大续航815km

态度原创

游戏
教育
家居
公开课
军事航空

IGN认为Xbox机会来了!新主机要转守为攻 重塑自我

教育要闻

2027届注意:暑期实习=秋招通行证,错过等一年

家居要闻

傍海而居 静观蝴蝶海

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

担心特朗普突然停战 以总理下令48小时尽力摧毁伊设施

无障碍浏览 进入关怀版