网易首页 > 网易科技 > 网易科技 > 正文

腾讯郑亚峰:为大模型解开算力“紧箍咒”

0
分享至

(原标题:腾讯郑亚峰:为大模型解开算力“紧箍咒”)

自ChatGPT惊艳亮相以来,人工智能迎来了新的热潮。IDC预测,到2023年,中国人工智能市场规模将超过147亿美元,到2026年将超过263亿美元。

AI的发展使越来越多的大模型应用于诸如语音识别、自然语言处理、计算机视觉等场景。而大模型的训练需要依靠超大规模的算力,这对AI基础设施的网络提出了新的挑战。

腾讯云副总裁郑亚峰介绍了腾讯自研星脉高性能计算网络的技术革新。他认为,基于腾讯云的全面自研能力和技术创新,大模型时代的算力提升并非无解。

在大模型时代,算力的提升不再仅靠GPU堆叠线性拉升,更复杂的GPU集群对网络提出了更高的需求。郑亚峰表示,大模型主要涉及数据、算法和算力,人工智能爆发式发展使大模型参数量从亿级飙升至万亿级。训练如此规模的大模型需要通过网络让成千上万个GPU互联互通,因此网络性能至关重要。

据郑亚峰介绍,传统网络协议容易导致网络拥塞、高延时和丢包。而在大模型时代,仅0.1%的网络丢包就可能导致50%的算力损失,从而影响AI训练结果。因此,传统低速网络的带宽远远无法支撑AI算力的需求。星脉网络的出现全方位解决了传统网络的这些难题,为大模型算力带来更高效、更稳定的网络环境。

目前,腾讯星脉网络已经具备业界最高的3.2T通信带宽,能提升40%的GPU利用率,节省30%~60%的模型训练成本,通过腾讯云新一代算力集群HCC,星脉网络可以支持10万卡的超大计算规模,为AI大模型带来10倍通信性能提升。

郑亚峰介绍,星脉网络是腾讯数据中心网络经过三代技术演进的成果。目前,配合自研软硬件设施,腾讯云构建了独立的超大带宽、符合AI训练流量特征的网络架构,并实现整套系统的自主可控,以满足超强算力对网络性能的新需求。

“星脉网络是为大模型而生,它也是腾讯数据中心网络的新起点,未来,也许会有星脉2,星脉3,或者超越星脉的网络。”展望未来,郑亚峰表示,腾讯云还将持续投入基础技术研发,助力数智化转型,助力各行各业在人工智能时代掘金,为大模型解开算力的“紧箍咒”。(文 陈栩文)

相关推荐
热点推荐
未婚妻去桂林旅游时失踪,二十年后,我遇到一个长相酷似她的女孩

未婚妻去桂林旅游时失踪,二十年后,我遇到一个长相酷似她的女孩

羽怡文学工作室
2024-05-14 12:41:52
热门交易对象,火箭探花签惹人垂涎,已有3队计划和火箭开启谈判

热门交易对象,火箭探花签惹人垂涎,已有3队计划和火箭开启谈判

拾叁back
2024-05-17 14:03:43
美众议院调查华为资助美大学研究 要求基金会说明关系

美众议院调查华为资助美大学研究 要求基金会说明关系

凤凰科技
2024-05-17 09:24:06
有钱一定要买大横厅,过来人告诉你:比竖厅都香!

有钱一定要买大横厅,过来人告诉你:比竖厅都香!

装修秀
2024-05-13 11:25:01
刘强东从美国归来,但马云不可能回来了,原因有三点!

刘强东从美国归来,但马云不可能回来了,原因有三点!

农村阿祖
2024-05-17 19:48:45
演员休息时都在干嘛?第一张我忍住了,杨紫这张我可以笑一整天

演员休息时都在干嘛?第一张我忍住了,杨紫这张我可以笑一整天

阿芒娱乐说
2024-05-17 16:19:10
留学生自曝刷爆美信用卡集100w返国,自诩掘到第一桶金,网友大骂

留学生自曝刷爆美信用卡集100w返国,自诩掘到第一桶金,网友大骂

毅往无前
2024-05-15 18:14:50
随着辽宁97-86新疆后,诞生了两个不可思议,两个不争事实

随着辽宁97-86新疆后,诞生了两个不可思议,两个不争事实

林子说事
2024-05-18 10:22:12
红军为啥要长征?其实源于一个乞丐提供的绝密情报!

红军为啥要长征?其实源于一个乞丐提供的绝密情报!

让时间说真话
2024-05-09 21:12:21
越闹越大!留学生在中国课堂展示南沙群岛是越南领土,评论区炸锅

越闹越大!留学生在中国课堂展示南沙群岛是越南领土,评论区炸锅

雪莉故事汇
2024-05-17 09:42:37
涉案超40亿!杭州一涉黑组织在工程等领域攫取非法利益 首犯被判无期徒刑

涉案超40亿!杭州一涉黑组织在工程等领域攫取非法利益 首犯被判无期徒刑

红星新闻
2024-05-17 11:42:16
2024年养老金即将开启新一轮调整,65岁,70岁,75岁会多涨钱吗?

2024年养老金即将开启新一轮调整,65岁,70岁,75岁会多涨钱吗?

社保小达人
2024-05-17 11:30:20
打“骨折”也止不住销量下跌,红旗撕下了豪华品牌最后一块遮羞布

打“骨折”也止不住销量下跌,红旗撕下了豪华品牌最后一块遮羞布

户外小阿隋
2024-05-16 03:57:31
“最美刘三姐”扮演者出卖身体103次,敛财76万,枪毙前大喊不服

“最美刘三姐”扮演者出卖身体103次,敛财76万,枪毙前大喊不服

北筏话史
2024-04-30 11:36:47
主动发声!米切尔引爆联盟,5年2.15亿,詹姆斯的目的达到了

主动发声!米切尔引爆联盟,5年2.15亿,詹姆斯的目的达到了

体育晓二
2024-05-18 10:59:12
如果将武汉所有200米以上高楼放在一起,简直堪比香港和迪拜

如果将武汉所有200米以上高楼放在一起,简直堪比香港和迪拜

作家李楠枫
2024-05-16 22:42:57
总比分2-0!辽篮拒绝15分大逆转,弗格34+10救主,琼斯空砍里程碑

总比分2-0!辽篮拒绝15分大逆转,弗格34+10救主,琼斯空砍里程碑

体坛纪录片
2024-05-17 21:43:32
你这辈子听过最诛心的话是什么?

你这辈子听过最诛心的话是什么?

阿康四岁啦
2024-05-17 11:58:46
江西崇仁县一女教师跳河,当地组织救援!多方回应:还在搜救中

江西崇仁县一女教师跳河,当地组织救援!多方回应:还在搜救中

潇湘晨报
2024-05-17 12:54:08
真敢说!日本奥运名单公布后透露目标团体金牌,重点阻击孙颖莎!

真敢说!日本奥运名单公布后透露目标团体金牌,重点阻击孙颖莎!

蓉之影
2024-05-18 10:31:19
2024-05-18 11:42:44

科技要闻

高合复活!

头条要闻

俄国防部:1天内在克里米亚等地击落123架乌军无人机

头条要闻

俄国防部:1天内在克里米亚等地击落123架乌军无人机

体育要闻

天赋最差的人,成为NBA最强替补控卫

娱乐要闻

《庆余年2》首播口碑出炉!有好有坏

财经要闻

史诗级利好,房地产这次有救了吗?

汽车要闻

智驾升级/月底上市 问界新M7 MAX焕新版

态度原创

游戏
亲子
本地
旅游
军事航空

《Wayfinder》即将复活!氪金网游变买断制单机?

亲子要闻

萌娃长大想给爸爸也娶个媳妇,爸爸嘴上说不要实际却笑开了花

本地新闻

2024年"519中国旅游日"活动线上启动仪式

旅游要闻

火车票改签收手续费了?12306回应

军事要闻

美称建立加沙临时码头 加沙民众强烈反对

无障碍浏览 进入关怀版
×