网易首页 > 网易号 > 正文 申请入驻

学术界被硅谷巨头无情碾压!“AI女王”李飞飞提出史诗级支持计划

0
分享至

“人工智能女王”李飞飞,又忍不住发声了——这次是为帮高校研究员争取算力和数据资源。

“这个计划的重要性可以类比‘登月投资’。”3月7日,这位人工智能科学家在演讲中提到「建立国家级算力与数据集仓库」计划。


图源:维基百科

从资料看,这个堪比登月的计划,旨在帮助人工智能研究者获得充足的资源,让美国的顶尖人工智能研究人员与科技巨头保持竞争力。

外媒介绍,李飞飞等学者认为,开展人工智能项目的高昂成本,加大了研究人员从事该领域的难度,损害了这一新兴技术的独立研究性。

一个例证是,Meta可以为模型训练采购高达35万个GPU,而斯坦福大学的自然语言处理小组,总共却只拥有68个GPU。

在李飞飞看来,这种巨大的差距已经让学术界和产业界渐行渐远。

来自斯坦福大学的报告显示,2022年行业里出现了32个重要的机器学习模型,来自顶尖高校的学者们却只贡献了其中的三个。这与2014年的情况发生了显著逆转——当时,大多数人工智能突破源自大学。

中美AI研究人员现状:缺钱缺卡

资金短缺是制约高校AI研究人员做出成绩的原因之一。

GPT-3的单次训练成本约为460万美元。而在算力方面,微软为 OpenAI 训练 GPT-3 模型提供了1024张英伟达A100 GPU,单张卡的市场价约为9,900美元,总计成本超过1,000万美元。

在推理环节,根据2023年4月的数据,OpenAI 维持ChatGPT单日运转的成本约在70万美元左右。

从算力到训练再到推理,动辄数千万美元的成本,让AI研究机构只能向公有云厂商寻求支持与赞助,换取免费的算力额度以支撑 AI 模型训练。

有研究机构甚至将研究方向从技术创新,转为探讨如何用更低的成本训练模型。

斯坦福大学就是一个鲜明的例证。

作为世界QS排名第五的学校,斯坦福大学在AI领域有着包括李飞飞、吴恩达、黄仁勋在内的知名校友。ChatGPT项目中,也有多达16名开发人员来自于斯坦福。

但即使是这样的一所大学, AI预算相比产业也“捉襟见肘”。

这从HAI (斯坦福旗下的一个人工智能机构)的报道可见一斑。报道显示,在2023-2024学年,HAI 将投入220万美元用于资助校内35个人工智能项目的早期研究,平均每个优秀项目能获得6.29万美元的赞助。

而在 HAI 官网中检索关键字“预算”,就能看到 HAI 关于帮助优质研究项目寻求大企业算力资助的提案—— 向AWS、Google Cloud 和 Azure 等公司寻求免费算力支持。

大洋彼岸另一端的顶级学府,伦敦帝国理工学院也面临相似问题。

公开资料显示,2023年8月,帝国理工学院3个研究人工智能与健康领域的创新项目,获得英国国家研究与创新基金会约180万英镑资助,平均每个项目60万英镑。这个数额,仅是GPT-3一次训练所花成本的16%。

另一项2023年帝国理工与麻省理工联合成立的旨在帮助早期优秀研究项目启动的种子基金,仅能为每个申请项目提供不超过5万美元的资助。

在中国,高校做研究时缺卡也非常常见。

据「四木相对论」观察,国内的TOP级院校也不一定有充足的备卡。

相关专业学生表示,一个顶尖的实验室里,大模型团队每十人可以拥有十块A800,非大模型团队则6个人只有4块3090(3090是英伟达的游戏显卡)。甚至有一些学校实验室只能用V100卡,而这种卡基本跑不起来大模型。

当然,现在有很多开源大模型。但即便在开源模型上只做fine-tune(微调)或者inference(推理),百亿参数规模的大模型也需要用到大显存、高配置的GPU,这是很多高校研究组无力承担的。

有学生在知乎上无奈发问:“实验室一块GPU都没有怎么做研究?”、“一个985的深度学习实验室只有两块显卡,这像话吗?”


图源:知乎

评论区也是大型献智献策现场,为提问的学生想了各种“薅羊毛”(如使用Google colab)的办法,更多人只能劝说提问者勒紧裤腰带自掏腰包攒一块能凑合用的显卡,否则实验难有结果,找工作也技能受限。

高校人才难以为继:硅谷高薪抢人,博士退学成常态

除去难以逾越的算力门槛,大量人才外流也让各大高校、研究机构痛苦不堪。

2018年《卫报》就报道过硅谷科技巨头不断挖走英国顶尖高校里的优秀研究人才。

“为了苹果公司的6位数薪水,我的学生离开了学校。这个价格比我能提供的高了5倍。”帝国理工学院一位教授在采访中表示,她的一名博士生甚至选择在学业最后一年提前离校,立刻开始公司工作。

另外2023年也有一份报告显示,北美各大高校的计算机与人工智能博士中有超过70%选择加入私营企业工作,而非继续从事科学研究。

即便是羽翼未丰的学生,在整个求学生涯中也需不断抵御企业的“金钱诱惑”。

AI领域的博士生是业界的“香饽饽”,往往从第一学年开始,就会不断收到猎头和企业HR发来的邀请,劝其退学并加入公司。

在博士生被筛选完毕后,大公司的金钱力量甚至会继续席卷流向研究生与本科生。

为了尽早与学生建立联系,科技公司会为还没有毕业的学生提供兼职工作的机会,甚至还有公司会在高中物色最好的“苗子”。

卡内基梅隆大学人工智能与创新硕士项目的主任表示,此类兼职工作的年薪大都超过了35万美元。这些学生毕业后拿到的全职岗位年薪会更高,可能接近50万美元。

“研究生与博士生越来越少,学生群体正在逐渐消失。”康奈尔大学计算与信息科学系主任卡维塔·巴拉(Kavita Bala)感慨。

不仅是学生,科技公司还在坚持不懈地挖高校计算机领域研究机构的成员,“科技巨头企业们正在吸干高校的血”,英国华威大学伦敦学院院长阿卜比尼·默图(Abhinay Muthoo)表示。

在大公司的花式攻势下,越来越多的人不愿投身学术界。如果能加入大公司,既不会再为资源和钱发愁,又有做出更具影响力项目的可能,何乐而不为?

为了留住学生干活,一些企业甚至会想出“黑招”。「四木相对论」此前就曾听闻,国内某背靠高校的大模型明星创企,早前甚至以“不给毕业”等理由“强迫”学生留在实验室为项目打工。

拥有产业和科研双重背景的李飞飞,自然了解双方的利益与矛盾。如果再不能拿到足够的资源和资金,即便人工智能再火热,学术界也只会更加边缘。

对全球来说,都是如此。

参考链接:
[1]:https://www.washingtonpost.com/technology/2024/03/10/big-tech-companies-ai-research/

[2]:https://www.theguardian.com/science/2017/nov/01/cant-compete-universities-losing-best-ai-scientists

[3]https://lambdalabs.com/blog/demystifying-gpt-3

[4]https://www.theguardian.com/science/2017/nov/01/cant-compete-universities-losing-best-ai-scientists

[5]https://www.businessinsider.com/tech-companies-raid-top-university-campuses-rare-artificial-intelligence-talent-2023-4

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
吴波已任雄安领导

吴波已任雄安领导

新京报北京知道
2024-06-14 23:16:17
世预赛出局后,曝印度上诉FIFA+亚足联,或将重赛,18强席位有变

世预赛出局后,曝印度上诉FIFA+亚足联,或将重赛,18强席位有变

侃球熊弟
2024-06-14 09:59:17
6月14日,2024年养老金调整通知会公布吗?调整方式会变吗?

6月14日,2024年养老金调整通知会公布吗?调整方式会变吗?

暖心人社
2024-06-14 22:33:10
目标欧洲杯夺冠!65岁名帅发布4条禁令:凌晨0点30必须入睡

目标欧洲杯夺冠!65岁名帅发布4条禁令:凌晨0点30必须入睡

叶青足球世界
2024-06-14 10:40:33
笑了!怀斯曼5年2亿顶薪大合同?这可是勇士的建队核心……

笑了!怀斯曼5年2亿顶薪大合同?这可是勇士的建队核心……

篮球实战宝典
2024-06-14 15:07:22
男孩被教练打死案细节:一直在求饶,但三位教练打累了就换人再打

男孩被教练打死案细节:一直在求饶,但三位教练打累了就换人再打

乡野小珥
2024-06-14 06:06:46
重大转型!高盛:到2029年,全球天然气市场将增加50%,美国将成为世界上最大能源出口国【附天然气市场供需现状】

重大转型!高盛:到2029年,全球天然气市场将增加50%,美国将成为世界上最大能源出口国【附天然气市场供需现状】

前瞻网
2024-06-14 18:53:10
世界第一也是追星族,斯瓦泰克现场看霉霉演唱会并收到手写信

世界第一也是追星族,斯瓦泰克现场看霉霉演唱会并收到手写信

懂球帝
2024-06-14 23:50:09
中超最新积分榜:上港力压申花登顶,泰山队第3,南通支云垫底

中超最新积分榜:上港力压申花登顶,泰山队第3,南通支云垫底

中超伪球迷
2024-06-14 22:30:34
基本定了!凯特王妃将在6月15号,出现在白金汉宫的窗台上

基本定了!凯特王妃将在6月15号,出现在白金汉宫的窗台上

金牌娱乐
2024-06-14 12:31:14
梅西重返欧洲足坛?瓜迪奥拉或再续师徒情,曼城剑指欧冠五连冠

梅西重返欧洲足坛?瓜迪奥拉或再续师徒情,曼城剑指欧冠五连冠

林子说事
2024-06-14 18:58:22
曝豆得儿曾为王思聪打过胎,看到黄一鸣爆料后破防,本人发文怒斥

曝豆得儿曾为王思聪打过胎,看到黄一鸣爆料后破防,本人发文怒斥

拾娱先生
2024-06-13 15:04:40
拜登未料到,中国三大部门宣布,断供航天发动机、复合材料

拜登未料到,中国三大部门宣布,断供航天发动机、复合材料

嘿哥哥科技
2024-06-14 08:38:03
这个夜晚安菲尔德属于泰勒-斯威夫特 利物浦官方晒首日演出图

这个夜晚安菲尔德属于泰勒-斯威夫特 利物浦官方晒首日演出图

直播吧
2024-06-14 22:25:28
马云采访中一度哽咽,几次抬头止住眼泪说:都难,现在大家都难

马云采访中一度哽咽,几次抬头止住眼泪说:都难,现在大家都难

元气科技馆
2024-05-20 17:52:48
美国顶级预言家再出手!直言2024美日中命运!这个岛最先出事!

美国顶级预言家再出手!直言2024美日中命运!这个岛最先出事!

飞云如水
2024-06-09 21:53:34
报告显示,中国免签政策见效

报告显示,中国免签政策见效

参考消息
2024-06-14 09:48:21
新华社消息|七国集团峰会在抗议声中开幕

新华社消息|七国集团峰会在抗议声中开幕

新华社
2024-06-14 13:15:09
昔日队友除外最想和谁做队友?库里:霍勒迪 几乎所有人都在夸他

昔日队友除外最想和谁做队友?库里:霍勒迪 几乎所有人都在夸他

直播吧
2024-06-15 01:05:12
中国女排只需在与波兰&土耳其的比赛拿下两局,即可晋级总决赛

中国女排只需在与波兰&土耳其的比赛拿下两局,即可晋级总决赛

直播吧
2024-06-14 22:36:08
2024-06-15 05:32:49
四木相对沦
四木相对沦
唠唠科技,看看世界
16文章数 0关注度
往期回顾 全部

科技要闻

马斯克重获信任 豪言特斯拉市值超10个苹果

头条要闻

2024欧洲杯揭幕战半场结束 德国队3-0领先苏格兰

头条要闻

2024欧洲杯揭幕战半场结束 德国队3-0领先苏格兰

体育要闻

我们为什么还爱欧洲杯?

娱乐要闻

江宏杰秀儿女刺青,不怕刺激福原爱?

财经要闻

“石油美元”协议走向终结 影响几何?

汽车要闻

提供100/240kW双电机版本车型 乐道L60实车曝光

态度原创

艺术
房产
手机
亲子
军事航空

艺术要闻

穿越时空的艺术:《马可·波罗》AI沉浸影片探索人类文明

房产要闻

万华对面!海口今年首宗超百亩宅地,重磅挂出!

手机要闻

全球第一!OPPO Find X7 Ultra DXO电池成绩160分:充电5分钟续航10小时

亲子要闻

90后带娃,但凡还手还轻了都觉得对不起自己,网友:看得好舒服

军事要闻

美国与乌克兰签署双边安全协议

无障碍浏览 进入关怀版