网易首页 > 网易号 > 正文 申请入驻

不碰GPU也能改模型,SageMaker新功能支持4款开源模型

0
分享至

做AI应用的公司,真正跑出结果的,往往不是直接拿现成的基础模型来用。它们会用强化学习这类后训练技术,对开放权重模型做定制。一个用你的业务背景、产品目录或临床术语训练过的模型,在具体任务上更准,跑起来也更省钱。做智能体时,你的数据、工作流、评测标准和成功标准,同样会塑造模型的行为。


但模型定制这件事本身很难。你得选对技术路线,搭好并管理GPU基础设施;做智能体,还要为多轮强化学习搭环境。亚马逊云科技的Amazon SageMaker AI无服务器模型定制,就是冲着这些麻烦来的。这次它把训练会话(training sessions)推到了正式可用。

训练会话给的是后训练逻辑的控制权,底层基础设施不用你管。训练循环由你来写、来协调,包括自定义损失函数或奖励信号。GPU分配、分布式执行、故障恢复、检查点存储,交给SageMaker AI。

不用选机型,也不用写分布式配置

用SageMaker AI无服务器模型定制,你不选实例类型,不管集群,不写分布式训练配置。技术路线也不设限:SFT、DPO、RLVR、RLAIF、多轮RL都能用;更新多少参数,可以用低秩适配(LoRA),也可以全量微调,还能通过连续定制把多种技术串起来。

省时间这块,SageMaker AI训练会话的cookbook给了示例和用例,还配了模型定制智能体技能。你描述用例,智能体负责数据准备、技术选择、训练、评测和部署。它在你平时干活的地方工作:SageMaker Studio、Kiro、Claude Code、Codex或GitHub Copilot。

ImagineSoftware数据科学高级副总裁Rob Gontarek的说法是,他们采用SageMaker AI无服务器训练会话搭建医疗理赔拒付分诊模型,第一天就验证了平台。底层API接口、对前向与反向传播、采样和优化器步骤的直接控制,让科学家能在一个对准确率要求苛刻的用例上做强化学习。训练会话给的原语,足以往生产级性能推。

训练循环自己写,计费按处理的token算

智能体训练的一个重要变化,是转向多轮强化学习。订机票、分诊工单、跑多步研究任务的智能体,要经过好几轮交互,才能判断结果对不对。训练循环很快就变复杂:模型在一套基础设施上训练,在另一套上推理生成回复,给回复打分,再把结果喂进下一次更新。每个阶段要的算力不同,跨工具、跨集群把它们接起来,都是额外的工作。

SageMaker AI本来就把多轮RL做成了托管、无服务器的技术。但客户想要自己定义损失函数、塑造奖励信号,或者把RL各阶段放进一个循环里。训练会话给的就是这份灵活度。

Karini AI首席执行官Nitin Wagh提到,他们用SageMaker AI无服务器训练会话,针对Amazon Neptune知识图谱微调gpt-oss-20b,做智能体多轮工具调用,基础设施由平台兜住。环境搭起来就能用,不用手动调参,也不用跟显存溢出较劲。检查点续跑是亮点:从精确的某一步恢复完全可靠。开发者的灵活度有了,运维负担也卸下来了。

机制上,你的代码在自己的环境里跑训练循环和奖励函数,把智能体接到它的工具或模拟器上。训练会话干的是吃GPU的重活:采样器生成回复,训练器计算梯度、更新模型权重。具体顺序取决于你写的算法。

以分组相对策略优化(GRPO)为例。它针对同一个提示生成多条回复,给它们打分,用相对表现来更新模型。循环跑一遍是这样:

  • 采样回复:你的循环让采样器用当前模型为每个提示生成多条回复。
  • 打分:你的奖励函数在自有环境里给每条回复打分,可以用验证器、奖励模型或测试框架。
  • 更新模型:循环把分数送回训练器,forward_backward()用它算梯度,optim_step()把更新应用到模型权重。
  • 刷新并重复:循环让会话用更新后的权重刷新采样器,然后开始下一批。代码重复这些步骤,直到训练结束。

计费按SageMaker AI处理的token来。奖励函数在你的环境里给一批数据打分时,计量暂停,也不需要预留容量。

数据与模型的控制权留在自己手里。每个会话用一个你创建的AWS身份与访问管理(IAM)执行角色,可以加上自己的AWS密钥管理服务(AWS KMS)密钥和虚拟私有云(VPC)配置。数据留在你自己选定的AWS区域内的Amazon Simple Storage Service(Amazon S3)存储桶里,检查点也落在那里。你的数据和定制后的权重,不会被拿去训练另一个模型。部署前可以评测模型的准确率、偏见和安全性;部署后可以加护栏,用Amazon CloudWatch做监控。团队现有的治理流程可以继续用。

目前训练会话支持gpt-oss-20b、gemma-4-31B-it、Qwen3.6-27B和Qwen3.8-27B。上手有两条路:在IDE里装SageMaker Python SDK(Linux或macOS,Python 3.10到3.12),克隆cookbook开始开发;或者在SageMaker Studio里,20秒内拉起一个现成的AI开发环境,登录、打开notebook、接上编码智能体(Kiro、Claude Code、Codex或Copilot),下载智能体技能和cookbook就能开工。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
羡慕哭了!宝马裁员8000人,离职补偿金最高达487万元!员工争着离职挤崩系统

羡慕哭了!宝马裁员8000人,离职补偿金最高达487万元!员工争着离职挤崩系统

聊斋新志
2026-10-22 19:28:15
8年前,马哈蒂尔叫停了中马铁路合同转向日本,拒绝赔付中国361亿,2026年这条铁路进度达93%,最后结局反转得连狗血剧本都不敢这么写

8年前,马哈蒂尔叫停了中马铁路合同转向日本,拒绝赔付中国361亿,2026年这条铁路进度达93%,最后结局反转得连狗血剧本都不敢这么写

扶苏聊历史
2026-10-22 14:37:54
警方称问界汽车事故司机已遇难!单方事故,事发时车速 139.1,非智驾状态

警方称问界汽车事故司机已遇难!单方事故,事发时车速 139.1,非智驾状态

DeepAuto车探
2026-10-23 01:00:04
刚刚,全球互联网已被AI攻陷!史上最黑暗48小时来了

刚刚,全球互联网已被AI攻陷!史上最黑暗48小时来了

新智元
2026-10-23 03:15:00
校庆我捐了上千万,副校长嫌我没名气安排在末排,还冷笑爱坐不坐,我转身撤资,十分钟后女校长的手机被打得快要炸了

校庆我捐了上千万,副校长嫌我没名气安排在末排,还冷笑爱坐不坐,我转身撤资,十分钟后女校长的手机被打得快要炸了

晓艾故事汇
2026-10-19 08:26:34
深圳个人破产案例爆火!男子负债158万申请个人破产,五年还款29.4万,剩余债务可豁免,评论炸锅

深圳个人破产案例爆火!男子负债158万申请个人破产,五年还款29.4万,剩余债务可豁免,评论炸锅

火山詩话
2026-10-22 09:06:52
跌光360亿,段永平亏惨了

跌光360亿,段永平亏惨了

投资家
2026-10-22 19:53:58
打疯了!骑士打爆四巨头76人:最多领先29分,哈登遭全场嘘声

打疯了!骑士打爆四巨头76人:最多领先29分,哈登遭全场嘘声

体坛小李
2026-10-23 08:26:20
神木事故报出139.1车速,网友拿杭州730事故比,这事越看越不对味

神木事故报出139.1车速,网友拿杭州730事故比,这事越看越不对味

黑哥讲现代史
2026-10-23 08:35:59
印度一档时事节目上,主持人 Meher Smaran 当着观众的面发问,中国凭什么不把锂电池技术白白送给印度?

印度一档时事节目上,主持人 Meher Smaran 当着观众的面发问,中国凭什么不把锂电池技术白白送给印度?

怪味历史连连看
2026-10-22 17:26:13
中国女足官宣米利西奇下课!教练团队全走人 亚运会亚洲杯均未夺冠

中国女足官宣米利西奇下课!教练团队全走人 亚运会亚洲杯均未夺冠

风过乡
2026-10-23 09:48:23
全球股市撑不住了!刚刚,费城半导体崩了,野村直接对标雷曼危机

全球股市撑不住了!刚刚,费城半导体崩了,野村直接对标雷曼危机

金石随笔
2026-10-23 03:14:19
商务部:我国有14亿多人口,再小众的需求也是大市场

商务部:我国有14亿多人口,再小众的需求也是大市场

极目新闻
2026-10-22 17:58:29
亏炸了,大批 “老登资产”全线崩塌

亏炸了,大批 “老登资产”全线崩塌

鸣金网
2026-10-23 10:26:13
72岁董明珠被学生喊奶奶,直言:我听了很不开心,你怎么能喊我奶奶呢,我还很年轻

72岁董明珠被学生喊奶奶,直言:我听了很不开心,你怎么能喊我奶奶呢,我还很年轻

韩小娱
2026-10-22 22:42:18
曝女星红毯赖着不出场,周涛张小斐无奈救场,晚宴全程无人搭理她

曝女星红毯赖着不出场,周涛张小斐无奈救场,晚宴全程无人搭理她

娱圈办事处
2026-10-22 13:46:04
剑拔弩张!中美航母对峙,九国军演造势,后方美日联军却丢人现眼

剑拔弩张!中美航母对峙,九国军演造势,后方美日联军却丢人现眼

共工之锚
2026-10-23 00:22:34
iPhone Duo 开售首日,西湖苹果店门口黄牛感叹:“发售半小时,没有成交一单……”溢价大幅减少,有商户说“加价1000元左右即可拿机”

iPhone Duo 开售首日,西湖苹果店门口黄牛感叹:“发售半小时,没有成交一单……”溢价大幅减少,有商户说“加价1000元左右即可拿机”

都市快报橙柿互动
2026-10-23 10:24:14
憾失三连胜!U17海湾杯:九人中国3比3十人巴林,彭显宸、冀政浩染红,杨宸硕世界波

憾失三连胜!U17海湾杯:九人中国3比3十人巴林,彭显宸、冀政浩染红,杨宸硕世界波

足球报
2026-10-23 03:35:32
两人被处决,为啥孟加拉政府都是看新闻才知道?

两人被处决,为啥孟加拉政府都是看新闻才知道?

刻面
2026-10-22 15:25:08
2026-10-23 11:00:49
野生运营
野生运营
懂点产品,懂点AI,正在努力给平淡日子搞点新花样。
231文章数 98关注度
往期回顾 全部

科技要闻

抢运营商饭碗!马斯克又有大动作

头条要闻

顾客理发时突发疾病死亡 店员"掐人中"施救遭索赔46万

头条要闻

顾客理发时突发疾病死亡 店员"掐人中"施救遭索赔46万

体育要闻

没人看好的加图索,打出队史最佳开局

娱乐要闻

高梓淇向女友求婚,被女方父母接受

财经要闻

娃哈哈集团董事长许思敏离职

汽车要闻

搭城市NOA/续航555KM 捷达M6上市售7.98万起

态度原创

旅游
家居
亲子
房产
公开课

旅游要闻

赴一场太行秋日之约 石家庄多处景区层林尽染迎游客

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

满地玩具太费妈!弟弟啃玉米这画面谁懂呀

房产要闻

租金大跳水!荒了6年,海口这个地标商业,开始急了!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版