网易首页 > 网易号 > 正文 申请入驻

五种数据准备能力打包上线,SageMaker盯上最慢的一环

0
分享至

做生成式AI落地的团队都清楚一件事:模型好不好,先看数据。微调开源模型、跑强化学习、搭评测集,全都依赖准确、标注规范、能代表任务场景的数据。对于边界清晰的具体任务,用干净的任务数据定制一个小模型,往往能在单次推理成本更低的前提下,达到甚至超过一个被提示词硬拽过来的大模型。


但现实里,准备数据常常是整个项目最慢的一段。标注样本稀缺或昂贵,隐私规则又限制了可用范围;重复样本、标签噪声、答案泄漏这类质量问题,往往要等到训练结果不理想才被发现;而每种训练方法又都要求数据符合各自的格式。数据科学家于是把大量时间花在整理数据上,而不是建模型。

亚马逊云科技这次给 Amazon SageMaker AI 增加了一组AI数据准备能力,覆盖合成样本生成、现有数据集的评估与改进,以及把专家反馈引入流程。使用方式是通过 Python SDK API 和 AWS AI-ML agent skill,在笔记本或 IDE 里完成,规格说明和代码都可以打开检查、直接修改。

五个独立积木,可单用可串联

  • 自动标注:从无标注数据集、少量标注种子集,甚至完全没有标签的情况下规模化打标。内置任务类型包括分类、命名实体识别、抽取式问答、序数评分和摘要,也支持自定义任务。任务用一段简短的标注规格描述,在正式标注全量数据前会先用你自己的样例做校验。对于答案集合固定的任务,由多个模型组成评审团逐行标注,模型间的一致程度就是该行的置信度分数。
  • 人工复核:低于置信度阈值的行会进入 Amazon SageMaker Studio 中的复核队列,底层用的是开源 Label Studio 社区版。外部领域专家可以通过 SageMaker Studio 中合作方应用框里的链接访问复核应用。复核者的修正会回流到自动标注环节,还可以生成一致性指标和标注报告。
  • 合成数据生成:按规格生成训练、评估和测试数据。输出可以锚定在自己的种子数据和文档上,服务会生成一条基于代码的数据生成流水线,可审查、修改、复用和扩展。
  • 数据质量评估:按自有业务规则、内置指标和 LLM-as-a-judge 指标检查数据集,找出重复与近重复,并暴露那些没想过要查的问题,比如标签噪声或答案泄漏。
  • 数据转换:为目标训练方法清洗和重塑数据。用自然语言描述改动即可生成代码,也可以使用去重、合并、拆分、过滤等内置操作,或大规模运行自己的 Python。

工作位置不变。可以直接用 SageMaker Python SDK,也可以把 agent 工具包里的 AI-ML skill 交给编码 agent,让它按既有的数据科学最佳实践调用这些 API。你描述需求,agent 在 SageMaker Studio JupyterLab、Kiro,或本地 IDE 配合你选的编码助手里挑选并运行对应能力。

从原始数据串到训练

单独用有价值,串起来价值更大。常见的一种玩法是搭黄金评测集:用少量种子集对原始数据做自动标注,高置信度行自动采纳,低置信度行交给人工复核,修正结果改善下一轮标注,最终得到一份经过人工验证、可用于给模型打分的可信数据集。

另一种是从原始文档一路走到训练好的模型:合成数据生成基于文档和种子数据造出任务样本;数据转换把数据整成监督微调(SFT)、直接偏好优化(DPO)或强化学习(RL)所需的格式;数据质量评估在花算力训练之前先查重复、泄漏和规则违规;最后用 SageMaker AI 的模型定制能力训练。

官方给了一个具体例子:某团队要为智能客服助手准备评测数据,产品手册里写明恢复出厂设置会清除已保存的设置,团队想测试助手在回答重置类问题时是否保留这条警告。流程是四步——先把产品手册作为上下文,描述需要的问题和参考答案,并写明保留警告这一要求,用编码 agent 生成规格后审查;再生成小批量样本,对照手册检查记录,审查生成与校验代码,确认覆盖了目标问题且参考答案忠于源材料;然后跑数据质量评估,查看记录级发现,请领域专家复核模糊答案或有争议的判定,并据此请求改进建议;最后按需修订规格或转换数据集处理重复等问题,补充生成样本,重新评估后再用于评测助手。

控制权与可用区域

用 AI-ML skill 时,你用自然语言描述任务,编码 agent 帮忙搭规格、准备代码、协调各步骤;这些产物都能打开查看配置方式并直接改动。如果更愿意自己调 API,就用 Python SDK 逐个调用能力。SDK 以规格为输入,官方建议先用 agent 辅助生成规格。

权限与数据归属方面,AI 数据准备使用你控制的 AWS Identity and Access Management(IAM)执行角色运行;源数据、生成的数据集和标签都留在你自己的 Amazon Simple Storage Service(Amazon S3)存储桶里,位于你选择的 AWS 区域。

该能力已在美国东部(弗吉尼亚北部)和美国西部(俄勒冈)区域正式可用。上手有两条路:在支持的笔记本或 IDE 里配置数据准备 skill,描述一个训练或评测任务,生成样本前先审查产出的规格;或者直接用 SageMaker Python SDK 运行单项能力。

思科旗下的 Splunk 在构建 Agent Observability 产品的评测模型时,正卡在特定任务高质量多样化数据难以整理这一步。Splunk Agent Observability 工程总监 Yash Sheth 表示,合成数据生成能力正在切实帮助其扩展这类能力,能够可靠且快速地生成具有统计代表性的合成数据集,同时保留模型所依赖的底层模式;与 SageMaker 其余工作流的无缝集成,让数据科学家和客户少花时间整理数据,多花时间构建模型。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
今年大概是初中最后的辉煌了,明年起,初中生将越来越少。

今年大概是初中最后的辉煌了,明年起,初中生将越来越少。

小羽叨叨叨
2026-11-20 14:53:15
2025辽宁死亡第一,这个不敢造谣,任何人上网都能查

2025辽宁死亡第一,这个不敢造谣,任何人上网都能查

北京作家编剧肥猪满圈
2026-11-18 17:23:20
1.9亿美元!梵高画作《盛开的栗树》创纪录

1.9亿美元!梵高画作《盛开的栗树》创纪录

澎湃新闻
2026-11-20 13:09:03
流体力学突破速度极限:天才工程师的反直觉设计

流体力学突破速度极限:天才工程师的反直觉设计

中国物理学会期刊网
2026-11-19 10:12:16
五婚五离,“毁”了半个娱圈美人的风流导演,如今69岁终跌落神坛

五婚五离,“毁”了半个娱圈美人的风流导演,如今69岁终跌落神坛

蜉蝣说
2026-11-12 08:43:14
“权贵们的新套路!”北理工裴轶的来时路被扒:和协和4+4竟是一个套路

“权贵们的新套路!”北理工裴轶的来时路被扒:和协和4+4竟是一个套路

妍妍教育日记
2026-10-05 10:10:15
中产“相亲神器”,被这个中国小城干成白菜价

中产“相亲神器”,被这个中国小城干成白菜价

金错刀
2026-11-20 15:03:50
波西·杰克逊第三季开播前,第二季这些关键剧情还记得吗

波西·杰克逊第三季开播前,第二季这些关键剧情还记得吗

时光慢旅人
2026-11-20 08:01:40
许昕:本以为 36 岁儿女双全已够幸福,没想到,现在幸福又升级了

许昕:本以为 36 岁儿女双全已够幸福,没想到,现在幸福又升级了

凡知
2026-11-21 11:06:13
特朗普再夸中俄美元首会晤 盛赞中国干净又安全

特朗普再夸中俄美元首会晤 盛赞中国干净又安全

看看新闻Knews
2026-11-21 10:43:31
高市早苗重申:要继续援助乌克兰 推进对俄制裁

高市早苗重申:要继续援助乌克兰 推进对俄制裁

闪电新闻
2026-11-21 08:19:38
中国绝不会接受本土遭到攻击后,还陪着你打所谓的 "有限战争"

中国绝不会接受本土遭到攻击后,还陪着你打所谓的 "有限战争"

迷彩人生
2026-11-13 10:25:30
华裔女子野外遭15岁男孩侵害,过程持续一小时,案情细节让人目瞪口呆

华裔女子野外遭15岁男孩侵害,过程持续一小时,案情细节让人目瞪口呆

夜夜思奇语
2026-11-19 14:02:49
裸粉瑜伽套装,丰满圆润熟女穿出轻熟感

裸粉瑜伽套装,丰满圆润熟女穿出轻熟感

樱桃小丸子1987
2026-11-01 19:36:30
5连胜西部第四!送走三核1年完成重建,三少太像麦丹+小卡+塔图姆

5连胜西部第四!送走三核1年完成重建,三少太像麦丹+小卡+塔图姆

阿成嘞
2026-11-20 14:54:29
上海房价,反转了?

上海房价,反转了?

睿见投资
2026-11-21 09:30:19
各国卖给咱们的油价,伊朗每吨4700,巴西5080,美国5200,俄罗斯4800,伊拉克4900,加拿大5150,利比亚4880,墨西哥4980

各国卖给咱们的油价,伊朗每吨4700,巴西5080,美国5200,俄罗斯4800,伊拉克4900,加拿大5150,利比亚4880,墨西哥4980

回京历史梦
2026-11-07 09:11:06
中国为什么会失去苏岩礁?只因外交战线上出了被韩国收买的间谍

中国为什么会失去苏岩礁?只因外交战线上出了被韩国收买的间谍

阿胡
2025-05-04 12:21:11
一位民生专家说:企业退休人员平均三千到三千五百元,机关事业单位平均五千到六千元,差距摆在那里

一位民生专家说:企业退休人员平均三千到三千五百元,机关事业单位平均五千到六千元,差距摆在那里

扶苏聊历史
2026-11-12 15:48:06
内蒙古牧民捡到小狗当牧羊犬9年,专家检查后脸色大变:这就不是狗

内蒙古牧民捡到小狗当牧羊犬9年,专家检查后脸色大变:这就不是狗

红豆讲堂
2025-05-19 17:03:14
2026-11-21 11:56:49
闪存猎手
闪存猎手
全网蹲好价的野生捕手,算力与羊毛都不可辜负。
238文章数 84关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

本地
家居
时尚
数码
手机

本地新闻

乌兰察布:以前种土豆,现在种Token

家居要闻

2026建博会(广州) 公装联探展交流活动

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

无障碍浏览 进入关怀版