网易首页 > 网易号 > 正文 申请入驻

互联网数据“耗尽”后,高质量训练数据从哪里获得?专家热议

0
分享至

7月28日,2025世界人工智能大会暨人工智能全球治理高级别会议在上海举行。在“大模型治理和有序发展生态分论坛”上,多位专家围绕大模型时代的数据治理与伦理建设,共商人工智能健康发展路径。有专家指出,互联网数据将在2026年左右被大模型训练“耗尽”已成行业共识,要建设新的高质量数据集,应从垂直行业获取、通过“众包众创”方式与前沿学校学者开展合作等实现。


论坛现场

对未处理的初级数据,比如语音、图像、文本、视频等进行加工处理,进而转换为机器可识别信息的过程,通常被称为数据标注。近年来,随着人工智能技术发展,数据标注成为大模型训练的必要环节,其上游产业需求大量增加。

据南都记者了解,海量、高质量的标注数据成为人工智能快速发展重要支撑的同时,该行业统一标准缺乏、标注质量不齐、人力水平与技术需求不匹配等问题也日益凸显,如何推动数据标注产业高质量发展备受关注。

上海库帕思科技有限公司首席运营官施佳樑在会上分享了他对数据标注行业的观察。随着人工智能技术的发展,数据标注行业正经历从人力密集型向知识密集型转变。从前,数据标注行业对就业的带动效果较为明显,主力人群为四、五线城市的大专生,涉及图像识别和语音转写等简单任务。

然而,随着大模型的引入,对高质量数据集的需求增加,标注工作开始涉及更复杂的学术难题和行业专业知识。据他观察,如今越来越多的高校学者、各行业的资深专家参与到数据标注过程中,以构建具备强推理思维链的数据和行业语料库。这种转变不仅提升了标注行业的专业性,也引发该就业市场的巨大变化。

“机器的自动合成往往是基于专家的标注,专家人工编写以后,再由机器完成二次合成。标注行业往高阶发展就会是这样的趋势。”他表示,今后在构建行业语料库的过程中,简单标注的数据标注师或逐渐被取代。

高质量数据集已成为人工智能发展的核心驱动力。百度技术委员会理事长陈尚义在会上谈到,大模型发展至今,高质量数据短缺的情况越发严重,合成数据已逐渐成为应对大模型训练数据短缺的新思路,但也存在许多顽固问题。

他强调,合成数据通常存在缺陷、误差、歧视等问题。原因在于合成数据也是基于现有数据生成或是受到现有数据的影响。“如果算法有偏见的话,它可能会带来更大的数据偏见,导致‘Garbage in garbage out’。”另一方面,合成数据存在伦理、公平性和隐私泄露的风险。“通过合成数据的‘逆向工程’,能够猜到原本数据中包含的一些个人隐私。”

施佳樑也表示,如今行业内已基本达成共识,无论国内国外,2026年左右互联网数据即将被大模型训练耗尽。那么,作为增量的高质量数据应从哪里获得?

施佳樑认为可以从三个方向发力。一是来自于当前各个垂直行业,各大互联网数据更多是作为通用数据来源,但每个垂直行业积累了海量专业知识,比如金融、教育、文旅行业等专业数据都非常值得重视。不过值得注意的是,行业数据作为模型的高级燃料,也是垂类公司最深的“护城河”,如何呼吁各行业形成数据“联盟”,共享行业语料,形成正向循环还值得思考。

二是希望通过“众包众创”方式,联合学术前沿的学校老师开展合作,共同构建高质量数据集。“据我观察,很多学科可能在学术前沿方面走得比企业更远,企业更多关注市场性的问题。”三是对于具身智能等特定领域,此前并无机器人动作数据等积累,需“从无到有”建立数据采集场进行真机采集。

去年3月,全国首家人工智能语料公司“库帕思”在上海成立。南都记者了解到,今年大会期间,该公司宣布启用全国首个语料运营公共服务统一门户,推动语料调用服务智能体化。同时,其内部运行的语料工具链平台,目前已完成400多个功能模块,在医疗、教育、金融、城市治理等领域投入实战。

施佳樑提到,上海有数据集团、数据交易所的情况下,还要成立库帕思这一专门提供大模型语料服务的公司,主要原因在于人工智能大模型领域的数据治理,与传统的数据治理存在较大差异。

他解释,传统数据更多以数值、结构化形态存在,“比方说一个区域有多少人,这个区域的房价是多少,人均收入是多少,每一个人的存款有多少,都是数值型的。”传统的数据治理更注重于数据清洗环节,去掉一些空值、无效或异常数据等。

大模型能够分析复杂的非结构化数据,其语料有高密度、高专业性需求,它需要理解数据内容,比如一道数学题的推理过程,一篇期刊论文里面的化学分子式等,其间会用到图像识别、自然语言处理等技术,处理的数据模块可能包含文本、图像、音频等形式。“数据应用场景不同,治理思路也不同。”

采写:南都N视频记者 樊文扬 杨柳 王子黎 发自上海

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
CBA最新排名!浙粤霸榜前二,上海山东步入正轨,7-17名混战!

CBA最新排名!浙粤霸榜前二,上海山东步入正轨,7-17名混战!

篮球资讯达人
2026-01-05 01:57:59
德国生产线连夜运往中国:一场静悄悄的工业大逃杀,正在欧洲上演

德国生产线连夜运往中国:一场静悄悄的工业大逃杀,正在欧洲上演

远方风林
2026-01-04 23:42:28
炸裂!干翻西部第二!杨瀚森血帽NBA榜眼秀

炸裂!干翻西部第二!杨瀚森血帽NBA榜眼秀

篮球实战宝典
2026-01-04 13:12:23
近18场0球!1.5亿巨星再遭皇马球迷狂嘘 被换下黑脸+赛后径直离场

近18场0球!1.5亿巨星再遭皇马球迷狂嘘 被换下黑脸+赛后径直离场

我爱英超
2026-01-05 01:45:05
人有没有钱,一看便知:没钱的子女,大多有3大特质、3大穷习惯

人有没有钱,一看便知:没钱的子女,大多有3大特质、3大穷习惯

第一桶金学派
2025-06-30 10:18:46
李在明携夫人抵达,金惠景蓝色大衣配白内搭,光腿显气质

李在明携夫人抵达,金惠景蓝色大衣配白内搭,光腿显气质

几人尽弃
2026-01-04 15:56:27
跟了自己十几年的贴身秘书,是美国间谍?仅一个眼神就发现不对劲

跟了自己十几年的贴身秘书,是美国间谍?仅一个眼神就发现不对劲

墨兰史书
2026-01-03 05:45:03
2-3!47岁兰帕德被爆冷:带领榜首队8轮2胜!重返切尔西执教难了

2-3!47岁兰帕德被爆冷:带领榜首队8轮2胜!重返切尔西执教难了

小火箭爱体育
2026-01-04 23:25:11
副总统已接管权力!特朗普不支持反对派,要监管委内瑞拉

副总统已接管权力!特朗普不支持反对派,要监管委内瑞拉

鹰眼Defence
2026-01-04 17:33:09
徐莺与亚洲周刊的口水战升级,这次她不但火了,而且彻底“疯”了

徐莺与亚洲周刊的口水战升级,这次她不但火了,而且彻底“疯”了

达文西看世界
2025-12-27 14:37:20
资产清零!被许家印坑得最惨的大佬

资产清零!被许家印坑得最惨的大佬

新浪财经
2026-01-04 18:52:34
42岁佟丽娅在美国过元旦!脸浮肿眼角皱纹多,发际线植发痕迹明显

42岁佟丽娅在美国过元旦!脸浮肿眼角皱纹多,发际线植发痕迹明显

娱圈小愚
2026-01-04 10:57:45
CBA主帅下课狂潮!天津男篮官宣换帅:张德贵担任球队主教练

CBA主帅下课狂潮!天津男篮官宣换帅:张德贵担任球队主教练

狼叔评论
2026-01-04 12:30:08
童锦程私生子闹大,索赔220万,女方长相曝光,更毁三观言论被扒

童锦程私生子闹大,索赔220万,女方长相曝光,更毁三观言论被扒

阿纂看事
2026-01-03 09:26:29
西工大连夜宣布好消息!全世界都没想到,中国居然“弯道超车”

西工大连夜宣布好消息!全世界都没想到,中国居然“弯道超车”

古史青云啊
2026-01-04 16:50:27
为什么越来越多人嫌弃“棉花被”?听内行人说完,恍然大悟

为什么越来越多人嫌弃“棉花被”?听内行人说完,恍然大悟

蜉蝣说
2025-12-29 17:17:50
放弃争夺数百亿遗产,带着女儿远遁美国,如今才知道她有多清醒

放弃争夺数百亿遗产,带着女儿远遁美国,如今才知道她有多清醒

梦史
2025-12-16 11:07:49
大布让父母亲向妻子道歉,贝嫂含蓄回应:我们没有什么好抱歉的

大布让父母亲向妻子道歉,贝嫂含蓄回应:我们没有什么好抱歉的

小书生吃瓜
2026-01-03 16:58:09
中国为何不依照韩国人身份证上的汉字来翻译韩国人名字?

中国为何不依照韩国人身份证上的汉字来翻译韩国人名字?

亭里说事
2025-12-31 09:32:01
心脏装了6个支架的王石日本看病实录,值得深思

心脏装了6个支架的王石日本看病实录,值得深思

深度报
2026-01-01 23:17:29
2026-01-05 02:35:00
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
591503文章数 3586499关注度
往期回顾 全部

科技要闻

雷军:骂小米汽车有流量,但别故意抹黑

头条要闻

特朗普为什么还要掳走马杜罗夫人 美媒分析

头条要闻

特朗普为什么还要掳走马杜罗夫人 美媒分析

体育要闻

女子世界第一,9年前在咖啡店洗碗

娱乐要闻

《小城大事》上星央八 热血筑梦正当时

财经要闻

李迅雷:扩内需必须把重心从"投"转向"消"

汽车要闻

最高续航310km 岚图泰山8或将上半年发布

态度原创

教育
时尚
游戏
艺术
家居

教育要闻

备考27新传研究生需要知道的50件事。

这才是中年女人该有的打扮,不扮嫩、不穿花,简约大方还显贵

自走棋火了6年后,我才玩了《王者万象棋》

艺术要闻

震撼视觉!西班牙画家安格拉达的油画作品引热议

家居要闻

黑白碰撞 个性多元冷冽风

无障碍浏览 进入关怀版