网易首页 > 网易号 > 正文 申请入驻

超过谷歌 阿里达摩院AI预训练模型M6参数破10万亿

0
分享至

新京报贝壳财经讯(记者 罗亦丹)11月8日,贝壳财经记者从阿里巴巴达摩院获悉,其多模态大模型M6最新参数已从万亿跃迁至10万亿,规模超过了谷歌、微软此前发布的万亿级模型,成为全球最大的AI预训练模型。

贝壳财经记者观察到,2021年以来,AI训练模型的规模不断扩大。据不完全统计,这些大模型包括年初华为发布的1000亿参数盘古大模型、1.6万亿参数的Google switch transformer模型、1.75万亿参数的智源悟道2.0智能模型、1.9万亿参数的快手精排模型等。其中,阿里达摩院M6模型上一次公布的参数规模为1万亿。


据了解,与传统AI相比,大模型拥有成百上千倍“神经元”数量,且预先学习过海量知识,表现出像人类一样“举一反三”的学习能力。因此,大模型被普遍认为是未来的“基础模型”,将成下一代AI基础设施。

“近年来人工智能的发展应该从家家户户‘大炼模型’的状态逐渐变为把资源汇聚起来,训练超大规模模型的阶段,通过设计先进的算法,整合尽可能多的数据,汇聚大量算力,集约化地训练大模型,供大量企业使用,这是必然趋势。”北京大学信息科学技术学院教授黄铁军此前告诉贝壳财经记者。

需要注意的是,训练大模型的算力成本相当高昂,如训练1750亿参数语言大模型GPT-3所需能耗,相当于汽车行驶地月往返距离。对此,达摩院表示,M6使用512 GPU在10天内即训练出具有可用水平的10万亿模型,相比去年发布的大模型GPT-3,M6实现同等参数规模,能耗减至其1%,达摩院透露,实现能耗减少的技术原理包括通过更细粒度的CPU offload、共享-解除算法等。

据了解,M6是达摩院研发的通用性人工智能大模型。目前,达摩院联合阿里云推出了M6服务化平台,为大模型训练及应用提供完备工具,算法人员及普通用户均可使用平台。

达摩院智能计算实验室负责人周靖人表示,“接下来,我们将深入研究大脑认知机理,致力于将M6的认知力提升至接近人类的水平,比如,通过模拟人类跨模态的知识抽取和理解方式,构建通用的人工智能算法底层框架;另一方面,不断增强M6在不同场景中的创造力,产生出色的应用价值。”

校对 柳宝庆

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
山东最“没法混”的城市,白菜的工资钻石的房价,居民:有点窝囊

山东最“没法混”的城市,白菜的工资钻石的房价,居民:有点窝囊

你的置业顾问
2022-01-23 06:23:03
张艺谋向冬奥请假2个月,让女儿执导美军,称不想把对手拍成笨蛋

张艺谋向冬奥请假2个月,让女儿执导美军,称不想把对手拍成笨蛋

猫眼电影
2022-01-21 22:52:12
为何古代打仗都跑襄阳来渡江?长江那么长,别的地方不能过河吗?

为何古代打仗都跑襄阳来渡江?长江那么长,别的地方不能过河吗?

我的爱豆
2022-01-22 15:49:11
“大老虎”包养146名情妇,其中还有一对母女,最终被判死刑

“大老虎”包养146名情妇,其中还有一对母女,最终被判死刑

刘彦
2022-01-22 15:49:57
3亿汉人被满清300万八旗统治276年,不反抗的四个理由

3亿汉人被满清300万八旗统治276年,不反抗的四个理由

古往今来
2022-01-23 06:27:45
江苏男孩当街跪下,祈求女友别回家相亲:我很快就凑够28万彩礼了

江苏男孩当街跪下,祈求女友别回家相亲:我很快就凑够28万彩礼了

随,心动
2022-01-20 19:06:24
“潘金莲”因戏生情,与“武松”在一起,今47岁生活太滋润

“潘金莲”因戏生情,与“武松”在一起,今47岁生活太滋润

1818娱乐圈
2022-01-23 02:22:48
莫斯科保卫战五大真相,欺骗后人几十年!

莫斯科保卫战五大真相,欺骗后人几十年!

历史课不代表
2022-01-23 06:12:28
邓小平复出,和陈永贵意见不和,邓小平:你和三岁的孩子一样幼稚

邓小平复出,和陈永贵意见不和,邓小平:你和三岁的孩子一样幼稚

历史小门童
2022-01-18 10:25:42
公司的福利待遇

公司的福利待遇

爱唱歌的荒
2022-01-23 04:30:48
大美女吕佳容,仙气飘飘“料”还足

大美女吕佳容,仙气飘飘“料”还足

轩轩娱乐烩
2022-01-22 11:37:53
昆凌怀三胎后公开露面,为保护腹中胎儿穿平底鞋,孕肚明显状态佳

昆凌怀三胎后公开露面,为保护腹中胎儿穿平底鞋,孕肚明显状态佳

我娱乐有约
2022-01-22 21:19:33
“女老师上课期间忘记关投影仪,搜索记录被公开…”哈哈哈哈,太尴尬了吧!

“女老师上课期间忘记关投影仪,搜索记录被公开…”哈哈哈哈,太尴尬了吧!

梗王段子手
2022-01-22 02:38:50
丰田致歉:全新陆地巡洋舰过于受欢迎,现在下单要等4年才能提车

丰田致歉:全新陆地巡洋舰过于受欢迎,现在下单要等4年才能提车

红灯停路灯行
2022-01-21 21:19:27
老公将“阳台”改成“卧室”,邻居:不改回来,就到物业投诉你!

老公将“阳台”改成“卧室”,邻居:不改回来,就到物业投诉你!

趣味儿童动画
2022-01-22 00:10:09
福奇:康复者再感染奥密克戎概率很低,但最坏的情况仍可能出现

福奇:康复者再感染奥密克戎概率很低,但最坏的情况仍可能出现

中国生物技术网
2022-01-23 07:40:25
毛泽东长女毛金花流落民间,1973年在福建找到,为何未能相认

毛泽东长女毛金花流落民间,1973年在福建找到,为何未能相认

历史小门童
2022-01-22 12:57:18
刚租的房子,打扫卫生时发现了这东西!我要不要告诉房东?哈哈哈

刚租的房子,打扫卫生时发现了这东西!我要不要告诉房东?哈哈哈

蛤哈哈
2022-01-22 10:00:35
我国地质学者在喜马拉雅山无人区考察:竟发现40座暗堡还有地道?

我国地质学者在喜马拉雅山无人区考察:竟发现40座暗堡还有地道?

历史深度研究院
2022-01-23 02:11:07
刘涛牛炸了!仅凭一己之力,将《开端》从悬疑剧神坛拉下来

刘涛牛炸了!仅凭一己之力,将《开端》从悬疑剧神坛拉下来

鱼泉说
2022-01-22 03:27:26
2022-01-23 11:28:49
新京报
新京报
关键时刻还看新京报
226557文章数 1875555关注度
往期回顾 全部

科技要闻

科技股"最惨一周",马斯克等损失670亿美元

头条要闻

贵阳男子不慎在洗浴中心受伤 店家:给你免单就不错了

头条要闻

贵阳男子不慎在洗浴中心受伤 店家:给你免单就不错了

体育要闻

1场防住詹姆斯5次 他这次真要逆袭了?

娱乐要闻

刚火一个月,她就凉了

财经要闻

汽车要闻

全尺寸+高性能SUV 凯迪拉克凯雷德V预告图曝光

态度原创

旅游
家居
教育
手机
公开课

旅游要闻

哈尔滨最美的时候,下雪便是童话

家居要闻

24岁女生不听人劝 在小县城买69平顶楼独居

教育要闻

2014年江西两名"夺刀少年"救全车人后错失高考,后来如何?

手机要闻

iQOO 9 Pro【体验】:面面俱到的性能王者

公开课

武汉试行冰葬,零下196度“粉身碎骨”还环保

进入关怀模式