网易首页 > 网易号 > 正文 申请入驻

互联网数据“耗尽”后,高质量训练数据从哪里获得?专家热议

0
分享至

7月28日,2025世界人工智能大会暨人工智能全球治理高级别会议在上海举行。在“大模型治理和有序发展生态分论坛”上,多位专家围绕大模型时代的数据治理与伦理建设,共商人工智能健康发展路径。有专家指出,互联网数据将在2026年左右被大模型训练“耗尽”已成行业共识,要建设新的高质量数据集,应从垂直行业获取、通过“众包众创”方式与前沿学校学者开展合作等实现。

论坛现场

对未处理的初级数据,比如语音、图像、文本、视频等进行加工处理,进而转换为机器可识别信息的过程,通常被称为数据标注。近年来,随着人工智能技术发展,数据标注成为大模型训练的必要环节,其上游产业需求大量增加。

据南都记者了解,海量、高质量的标注数据成为人工智能快速发展重要支撑的同时,该行业统一标准缺乏、标注质量不齐、人力水平与技术需求不匹配等问题也日益凸显,如何推动数据标注产业高质量发展备受关注。

上海库帕思科技有限公司首席运营官施佳樑在会上分享了他对数据标注行业的观察。随着人工智能技术的发展,数据标注行业正经历从人力密集型向知识密集型转变。从前,数据标注行业对就业的带动效果较为明显,主力人群为四、五线城市的大专生,涉及图像识别和语音转写等简单任务。

然而,随着大模型的引入,对高质量数据集的需求增加,标注工作开始涉及更复杂的学术难题和行业专业知识。据他观察,如今越来越多的高校学者、各行业的资深专家参与到数据标注过程中,以构建具备强推理思维链的数据和行业语料库。这种转变不仅提升了标注行业的专业性,也引发该就业市场的巨大变化。

“机器的自动合成往往是基于专家的标注,专家人工编写以后,再由机器完成二次合成。标注行业往高阶发展就会是这样的趋势。”他表示,今后在构建行业语料库的过程中,简单标注的数据标注师或逐渐被取代。

高质量数据集已成为人工智能发展的核心驱动力。百度技术委员会理事长陈尚义在会上谈到,大模型发展至今,高质量数据短缺的情况越发严重,合成数据已逐渐成为应对大模型训练数据短缺的新思路,但也存在许多顽固问题。

他强调,合成数据通常存在缺陷、误差、歧视等问题。原因在于合成数据也是基于现有数据生成或是受到现有数据的影响。“如果算法有偏见的话,它可能会带来更大的数据偏见,导致‘Garbage in garbage out’。”另一方面,合成数据存在伦理、公平性和隐私泄露的风险。“通过合成数据的‘逆向工程’,能够猜到原本数据中包含的一些个人隐私。”

施佳樑也表示,如今行业内已基本达成共识,无论国内国外,2026年左右互联网数据即将被大模型训练耗尽。那么,作为增量的高质量数据应从哪里获得?

施佳樑认为可以从三个方向发力。一是来自于当前各个垂直行业,各大互联网数据更多是作为通用数据来源,但每个垂直行业积累了海量专业知识,比如金融、教育、文旅行业等专业数据都非常值得重视。不过值得注意的是,行业数据作为模型的高级燃料,也是垂类公司最深的“护城河”,如何呼吁各行业形成数据“联盟”,共享行业语料,形成正向循环还值得思考。

二是希望通过“众包众创”方式,联合学术前沿的学校老师开展合作,共同构建高质量数据集。“据我观察,很多学科可能在学术前沿方面走得比企业更远,企业更多关注市场性的问题。”三是对于具身智能等特定领域,此前并无机器人动作数据等积累,需“从无到有”建立数据采集场进行真机采集。

去年3月,全国首家人工智能语料公司“库帕思”在上海成立。南都记者了解到,今年大会期间,该公司宣布启用全国首个语料运营公共服务统一门户,推动语料调用服务智能体化。同时,其内部运行的语料工具链平台,目前已完成400多个功能模块,在医疗、教育、金融、城市治理等领域投入实战。

施佳樑提到,上海有数据集团、数据交易所的情况下,还要成立库帕思这一专门提供大模型语料服务的公司,主要原因在于人工智能大模型领域的数据治理,与传统的数据治理存在较大差异。

他解释,传统数据更多以数值、结构化形态存在,“比方说一个区域有多少人,这个区域的房价是多少,人均收入是多少,每一个人的存款有多少,都是数值型的。”传统的数据治理更注重于数据清洗环节,去掉一些空值、无效或异常数据等。

大模型能够分析复杂的非结构化数据,其语料有高密度、高专业性需求,它需要理解数据内容,比如一道数学题的推理过程,一篇期刊论文里面的化学分子式等,其间会用到图像识别、自然语言处理等技术,处理的数据模块可能包含文本、图像、音频等形式。“数据应用场景不同,治理思路也不同。”

采写:南都N视频记者 樊文扬 杨柳 王子黎 发自上海

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
房产税可能很快就会到来

房产税可能很快就会到来

谭谈财经
2026-09-30 21:27:05
你身边有神人一般的存在吗?网友:跟一个朋友同居叫她丢垃圾,她把垃圾桶丢了

你身边有神人一般的存在吗?网友:跟一个朋友同居叫她丢垃圾,她把垃圾桶丢了

带你感受人间冷暖
2026-09-25 00:05:49
毛主席严厉批评彭雪枫搞“山头主义”,双方当场激烈交锋,彭雪枫拍案而起,高声回敬:“只有山头,没有主义。”

毛主席严厉批评彭雪枫搞“山头主义”,双方当场激烈交锋,彭雪枫拍案而起,高声回敬:“只有山头,没有主义。”

人生录
2026-09-30 14:26:34
随着王楚钦退赛,孙颖莎+王楚钦混双也取消!北京大满贯重磅调整

随着王楚钦退赛,孙颖莎+王楚钦混双也取消!北京大满贯重磅调整

足球评论大家谈
2026-09-30 22:39:58
欧洲人爱吃面包,但糖尿病发生率很低? 4个原因或是最佳答案

欧洲人爱吃面包,但糖尿病发生率很低? 4个原因或是最佳答案

医学科普汇
2026-09-30 19:35:08
82万中国人移民美国,为什么都只拿绿卡,不入籍?美国绿卡,他们拿了;美国国籍,他们却拒了

82万中国人移民美国,为什么都只拿绿卡,不入籍?美国绿卡,他们拿了;美国国籍,他们却拒了

扶苏聊历史
2026-09-30 14:08:52
柬埔寨反贪局披露中国籍电诈头目张建强资金链:涉2.5亿美元,通过25岁本地兑换商洗钱,并向乡长、移民警察转款行贿

柬埔寨反贪局披露中国籍电诈头目张建强资金链:涉2.5亿美元,通过25岁本地兑换商洗钱,并向乡长、移民警察转款行贿

大风新闻
2026-09-29 15:08:03
女儿失踪后,老公把院子新铺了水泥地,我却发现上面总落着一群苍蝇

女儿失踪后,老公把院子新铺了水泥地,我却发现上面总落着一群苍蝇

罪案洞察者
2025-09-13 14:15:19
宇树科技又崩了,但这次真不怪机器人,怪的是当初那帮人

宇树科技又崩了,但这次真不怪机器人,怪的是当初那帮人

侃故事的阿庆
2026-09-30 05:15:53
曼城115项指控全成立!英超史上最重罚单要来了?

曼城115项指控全成立!英超史上最重罚单要来了?

空谷幽幽蓝
2026-09-30 09:04:27
何超琼称遭骚扰恐吓,获批禁制令

何超琼称遭骚扰恐吓,获批禁制令

界面新闻
2026-09-30 21:30:42
女子骑电动自行车压速别车,后车司机忍无可忍一脚将其踹翻;司机:事后得知该女子怀孕4个月,赔偿了800元

女子骑电动自行车压速别车,后车司机忍无可忍一脚将其踹翻;司机:事后得知该女子怀孕4个月,赔偿了800元

扬子晚报
2026-09-30 20:58:02
王洪文与罗瑞卿,都没听懂主席暗示

王洪文与罗瑞卿,都没听懂主席暗示

特例的猫
2026-09-30 10:27:41
闹大了!乒协官网祝贺王曼昱遭围攻,冲上热搜,7.3亿阅读量

闹大了!乒协官网祝贺王曼昱遭围攻,冲上热搜,7.3亿阅读量

小鞄搞笑解说
2026-09-30 12:02:54
中网首日:莲花球场噪音不断,观众无序霸座,观赛礼仪再引热议

中网首日:莲花球场噪音不断,观众无序霸座,观赛礼仪再引热议

网球之家
2026-09-30 19:04:57
心理学上有个词叫:墨菲定律(男女关系铁律,无论和谁在一起,都要明白这两个潜规则)

心理学上有个词叫:墨菲定律(男女关系铁律,无论和谁在一起,都要明白这两个潜规则)

心理观察局
2026-07-05 09:18:04
80年前论文被AI判定“抄袭”?量子力学创始人、诺奖得主普朗克两篇论文被撤稿

80年前论文被AI判定“抄袭”?量子力学创始人、诺奖得主普朗克两篇论文被撤稿

超级数学建模
2026-09-30 00:34:37
还需努力!CBA体测未通过名单:王哲林、沈梓捷、李慕豪在列

还需努力!CBA体测未通过名单:王哲林、沈梓捷、李慕豪在列

懂球帝
2026-09-30 21:21:06
克林顿之后,美国再无拥有治国之才的总统。克林顿在任的八年,把美国经济带到了一个巅峰

克林顿之后,美国再无拥有治国之才的总统。克林顿在任的八年,把美国经济带到了一个巅峰

扶苏聊历史
2026-09-29 15:51:40
叶子楣参加朋友生日会,瘦成干尸大胸垂到肚,合照搂腰尬笑超僵硬

叶子楣参加朋友生日会,瘦成干尸大胸垂到肚,合照搂腰尬笑超僵硬

娱圈办事处
2026-09-28 17:05:44
2026-10-01 02:20:49
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
636171文章数 3590754关注度
往期回顾 全部

科技要闻

OpenAI凌晨大上新!新助手dots迎战Muse

头条要闻

10月1日零时高速免费 车主卡点省560多元

头条要闻

10月1日零时高速免费 车主卡点省560多元

体育要闻

30天30队·火箭:乌度卡的控制欲

娱乐要闻

胡歌现身游本昌遗体告别仪式

财经要闻

“杭州六小龙”迎来价值重估

汽车要闻

燃油车的最佳平替 长城大狗HEV简单好开更经济

态度原创

艺术
时尚
游戏
公开课
军事航空

艺术要闻

一池睡莲,竟藏着印象派最绝美的光影秘密

从理性到反叛,看米兰时装周风格流转

《秋叶原迷踪》制作人专访:倾注全部心血的诚意之作"/> 主站 商城 论坛 自运营 登录 注册 简体中文 简体中文 English 《秋叶原迷踪》...

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军最后2500人撤离伊拉克

无障碍浏览 进入关怀版