网易首页 > 网易号 > 正文 申请入驻

给研究思路就能推荐数据集,CMU博士后等人推出NLP数据处理神器

0
分享至

明敏 发自 凹非寺
量子位 | 公众号 QbitAI

说出你的研究思路,就能给你推荐合适的数据集:

当然还可自己按需检索,同时标出不同数据集的热度:

更厉害的是能直接帮你分析数据集。

语料中是否包含仇恨言论、性别歧视语料等,所占比例是多少,通通都能告诉你。

以上,是一个名叫DataLab的通用数据处理平台。

它包含1715个数据集,提供数据诊断、数据搜索、全局分析、标准化处理4方面的功能。

不仅可以帮助用户分析数据的特征,还能对不同数据集进行标准化处理。

其幕后打造者之一为卡内基梅隆大学博士后刘鹏飞,他博士毕业于复旦大学。

方便,方便,还是方便

其实对于很多人来说,构建模型往往在数据集阶段就会被卡住。

现在网络上的数据集虽然一抓一大把,但质量参差不齐。

而且很多新入门的童鞋也对于自己应该用什么样的数据集,非常迷茫。

那么,一个覆盖数据集范围广、还能进行分析的平台,或许能帮助你找到心仪的数据集。

基于这样的背景下,刘鹏飞所在团队就搞了个DataLab。

就拿找数据集来说吧,在DataLab上你不仅可以按照模型的需求来筛选合适数据集,还能看看哪些数据集最受欢迎、哪些下载量最多、哪些访问量最多。

毕竟“大家说好才是真的好”,这句话在哪也受用嘛。

再来看标准化处理上。

DataLab提供86个功能,可以将不同的数据集标准化处理为统一格式。

如果你构建模型时不知道该用什么样的数据集,还能直接问DataLab。

比如当你输入研究思路:

我想训练一个可以识别啤酒评论中包含的积极和消极情绪的模型。

DataLab就能给出20个数据集任君选择,每一个点进去还有更加详细的介绍。

除了提供数据集分析和处理功能,DataLab还可以根据现有的数据为大家提供一些全球视野的分析。

比如它能展现全球不同国家AI本地化技术积累的情况。

其开发者刘鹏飞表示,数据,尤其是标注数据是训练一个AI系统的关键。所以很多时候,数据集的积累可以体现技术壁垒。

从DataLab上的大数据分析可以看出,美国在语言数据集上的优势巨大,因为很多现有公开、流行的数据集都是以英文为主。

相较之下,中文数据集的积累情况就不够好。

同时,这一平台也能对全球不同研究机构在不同任务数据集上的表现进行排名。

从下表中可以看到,CMU、微软亚研院、JHU、UW几个机构位居前四,清华大学在国内排名最高。

不过平台开发者也提醒大家,平台上的数据统计有可能因为用户提交数据不全而导致结果不准确/考虑不周全,仅作为参考之一。

用户也可以在DataLab官网进行数据纠正。

复旦校友领衔打造

DataLab由卡内基梅隆大学语言技术研究所(LTI)博士后刘鹏飞领衔打造。

刘鹏飞于2019年在复旦大学计算机系获得博士学位,师从邱锡鹏教授、黄萱菁教授。

研究兴趣包括NLP模型可解释性、迁移学习、任务学习等。

博士期间,他包揽了各种计算机领域的奖学金,包括IBM博士奖学金、微软学者奖学金、腾讯人工智能奖学金、百度奖学金。

谈到打造DataLab这一平台的初衷,刘鹏飞向量子位表示:

机器学习领域有太多技术需要被标准化和统一,也需要技术被折叠,不然就会造成一种资源过剩带来的浪费。

他提到,UC伯克利大学的明星实验室RISELab曾打造出很多新颖的技术工具,比如高性能分布式执行框架Ray。

其掌舵人Ion Stoica教授在一次分享中提到“统一是它们成功的关键”。

DataLab这次的工作其实也是如此。

它的意义在于提供了一个“数据+操作”的统一框架,让未来很多事情都可以转化成两件事:

  1. 定义/引入一个新的数据类型;
  2. 定义/引入一个新的数据操作(比如现在火热的Prompt Learning,本质上就是重构数据)。

由此,研究者和开发者就可以有一个统一的入口去进行他们需要的各种数据分析与操作。

在DataLab里,不同数据类型、操作类型都被标准化,其目的就是让用户在前人已经解决的事情上不要再浪费时间,而是使用已经有的技术去探索新的技术发展。

当然,如果再深入一点,刘鹏飞表示创建DataLab还源于一股内在驱动力:

如何让自己做的事情能够在推动人类社会生产力发展上扮演一些重要的角色。

事实上,刘鹏飞也不是第一次为开发者、研究人员们打造便利的“小工具”了。

比如帮助开发者提出创新学术idea的辅助工具ExplainaBoard。

还有可自动生成论文评审结果的Demo网站ReviewAdvisor,只需要上传PDF论文,即可自动生成评审结果。

哦对了,刘鹏飞还会在知乎上分享自己在NLP方面的一些研究心得。

比如这篇《近代自然语言处理技术发展的“第四范式”》就曾在网上引起过不小的反响。

感兴趣的童鞋,欢迎移步大佬知乎围观~

DataLab地址:
http://datalab.nlpedia.ai/

GitHub地址:
https://github.com/ExpressAI/DataLab/

刘鹏飞知乎:
https://www.zhihu.com/people/liu-peng-fei-65-23/posts

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国铁路史第一次!104.9万人挤爆广州南,不是旅游,是饭碗!

中国铁路史第一次!104.9万人挤爆广州南,不是旅游,是饭碗!

椰青美食分享
2026-10-04 08:44:54
老年暴走团互扇耳光,没有赢家,只有不堪

老年暴走团互扇耳光,没有赢家,只有不堪

关尔东
2026-10-02 23:09:18
国内将逐渐停止“肠息肉手术”?做完人就废了?医生讲出实情

国内将逐渐停止“肠息肉手术”?做完人就废了?医生讲出实情

健康科普365
2026-09-20 14:45:08
不查不知道,一查吓一跳,68岁身价百亿的赵本山,私下到底有多壕

不查不知道,一查吓一跳,68岁身价百亿的赵本山,私下到底有多壕

喜欢历史的阿繁
2026-10-04 06:48:46
能撑多久?哈里和梅根返英后首次共同亮相,在英处境远低于预期

能撑多久?哈里和梅根返英后首次共同亮相,在英处境远低于预期

动物奇奇怪怪
2026-10-04 10:53:20
安切洛蒂支招穆里尼奥!皇马传奇不可或缺!唯有巴萨巨星能救场

安切洛蒂支招穆里尼奥!皇马传奇不可或缺!唯有巴萨巨星能救场

奶盖熊本熊
2026-10-04 07:56:40
决胜局4-10逆转!袁励岑/王艺迪3-2弗朗西斯卡/迪亚兹晋级16强!

决胜局4-10逆转!袁励岑/王艺迪3-2弗朗西斯卡/迪亚兹晋级16强!

篮球资讯达人
2026-10-04 11:51:27
大促未开先降40%:Kindle全系提前跳水,儿童版跌至历史最低

大促未开先降40%:Kindle全系提前跳水,儿童版跌至历史最低

热搜摘要官
2026-10-03 03:00:32
心理学上说:一个家庭,如果长期没有饭局、没有社交、少走亲戚,不是人缘差,往往说明了3个现实真相!

心理学上说:一个家庭,如果长期没有饭局、没有社交、少走亲戚,不是人缘差,往往说明了3个现实真相!

掌门1对1
2026-09-16 22:37:49
别看不起小恩小惠,关键时刻可以帮上大忙?网友:小恩养贵人,大恩出仇人

别看不起小恩小惠,关键时刻可以帮上大忙?网友:小恩养贵人,大恩出仇人

带你感受人间冷暖
2026-10-03 00:05:27
人妻熟女公园随拍,波点短裤勾勒丰腴曲线

人妻熟女公园随拍,波点短裤勾勒丰腴曲线

只要高兴就好
2026-10-04 08:59:48
美海岸警卫队发现失联飞机残骸,机上6人仍下落不明

美海岸警卫队发现失联飞机残骸,机上6人仍下落不明

澎湃新闻
2026-10-04 11:34:02
车评人称其烤串店未开业先收差评,质疑平台审核机制存漏洞 目前虚假评论已被下架

车评人称其烤串店未开业先收差评,质疑平台审核机制存漏洞 目前虚假评论已被下架

红星新闻
2026-10-03 13:02:10
两性关系:不管你信不信,男性过了58岁后,基本都有这5个现状

两性关系:不管你信不信,男性过了58岁后,基本都有这5个现状

皓皓情感说
2026-10-04 08:36:44
刚有名人离世,何赛飞病况曝光令人揪心,与恩师之子离婚已水落石出

刚有名人离世,何赛飞病况曝光令人揪心,与恩师之子离婚已水落石出

麦芽是个小趴菜
2026-10-04 00:24:51
16%到4%:英伟达把HBM控制器搬进了内存里

16%到4%:英伟达把HBM控制器搬进了内存里

我是一个粉刷匠2
2026-10-03 11:13:57
俄军袭击基辅大桥,乌克兰首都50万人的日常通勤变成一场噩梦

俄军袭击基辅大桥,乌克兰首都50万人的日常通勤变成一场噩梦

世界新趋势
2026-10-03 14:35:04
杨成武北上绥远面临重重困难,毛主席嘱托周恩来:带上十万大洋!

杨成武北上绥远面临重重困难,毛主席嘱托周恩来:带上十万大洋!

历史龙元阁
2026-10-03 10:15:28
7-0!贝林厄姆助攻帽子戏法,凯恩2射1传,巴萨飞翼连场破门,英格兰狂胜

7-0!贝林厄姆助攻帽子戏法,凯恩2射1传,巴萨飞翼连场破门,英格兰狂胜

我的护球最独特
2026-10-04 01:52:47
“印度退役步枪”惊现阿富汗塔利班,中国退役枪械出口,56式、81式都成功,为何95式没有?

“印度退役步枪”惊现阿富汗塔利班,中国退役枪械出口,56式、81式都成功,为何95式没有?

蓝星杂谈
2026-10-04 13:24:57
2026-10-04 14:11:00
量子位 incentive-icons
量子位
追踪人工智能动态
13436文章数 176575关注度
往期回顾 全部

科技要闻

苹果确认:iPhone 18 Pro Max有问题

头条要闻

中国籍夫妻在澳洲因车祸去世 朋友:两人新房即将完工

头条要闻

中国籍夫妻在澳洲因车祸去世 朋友:两人新房即将完工

体育要闻

“小将”吴曦,中国的莫德里奇

娱乐要闻

杨议没料到,郭德纲如今仍是一呼百应

财经要闻

OpenAI前安全部门员工:公司文化已崩坏

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

教育
时尚
手机
艺术
军事航空

教育要闻

这题可以再连一条对角线,利用等腰三角形原理求解

秋天衣服不用买很多很贵,这几件衬衫准备好,简约百搭又不挑年纪

手机要闻

华为Mate 90 Pro Max性能解禁:搭载麒麟9050 Pro,部分游戏能效优于第五代骁龙8至尊版机型

艺术要闻

沙特要盖2000米高楼,一年维护费达8亿美元!

军事要闻

驻冲绳美军士兵抢劫杀人 日本向美国提出抗议

无障碍浏览 进入关怀版