网易首页 > 网易号 > 正文 申请入驻

厉害!天才博士刚毕业,就被前OpenAI CTO抢走!年薪或300万起步

0
分享至

MIT天才博士一毕业,火速加盟OpenAI前CTO初创!

最近,肖光烜(Guangxuan Xiao)在社交媒体官宣,刚刚完成了MIT博士学位。

下一步,他将加入Thinking Machines,专注于大模型预训练的工作。


评论区下方,英伟达科学家、xAI研究员、UCSD等一众大佬,为他本人送上了祝贺。



清华双学位学霸,MIT博士开挂人生

打开他的个人主页,多元而充实的经历便映入眼帘。

肖光烜本科毕业于清华大学,拿到了双学位,主修的是计算机科学,金融学是第二学位。


在此期间,他获得了清华大学综合优秀奖学金(2019)、全国大学生数学建模竞赛(CUMCM)一等奖(2020)、国家奖学金(2020)、清华大学「未来学者」奖学金(2021)等多项奖项。

他曾于2020–2021年作为访问生(Visiting Student),前往斯坦福大学计算机系开展科研工作。

2022年,肖光烜加入MIT攻读博士学位,导师为韩松(Song Han)教授。

个人研究方向聚焦于:深度学习的高效算法与系统,尤其是大规模基础模型(Foundation Model)。


他于2022年9月至2026年1月,在MIT EECS担任全职研究助理(Research Assistant)。

读博期间,肖光烜曾多次进入全球顶级科技大厂从事前沿研究实习,具备了丰富的一线工业研发的经验。


论文地址:https://arxiv.org/pdf/2309.17453

2024年2-5月期间,他作为英伟达实习生,研究方向是为长上下文大语言模型推理加速。

他和团队提出了DuoAttention,结合检索与流式注意力头,实现高效推理。


论文地址:https://research.nvidia.com/labs/eai/publication/duoattention/

随后,他又参与了多项核心研究项目,其中包括:

  • XAttention:基于反对角评分的块稀疏注意力机制

  • StreamingVLM:面向无限视频流的实时理解模型

  • FlashMoBA:混合块注意力(Mixture of Block Attention)的高效优化

值得一提的是,肖光烜在研究之外,还有丰富的兴趣爱好,比如足球、乒乓球、围棋、钢琴。

他曾担任所在院系足球队的队长兼先锋,贝多芬的作品是个人最爱。


一篇博士论文,破解LLM三大难题

比起耀眼的履历,肖光烜的博士论文本身更值得深入研析与拆解。


不得不承认,如今大模型已经无所不能,但它们依然太贵了。

显存爆炸、推理太慢、长上下文直接OOM(内存溢出),这是几乎所有LLM工程团队每天都在面对的现实。

Efficient Algorithms and Systems for Large Language Models这篇论文,给出了一个罕见的、从工程到理论、从算法到架构的完整答案。

论文中, 他们提出了SmoothQuant,解决了一个长期困扰工业界的问题——激活值异常(activation outliers)。

SmoothQuant通过一个巧妙的数学等价变换,把量化难点从「激活」转移到「权重」。

结果,它实现了首个在十亿级模型上W8A8无损量化,无需重新训练,显存更小、推理更快。

针对超长序列的处理,作者在StreamingLLM中发现了「注意力汇点」(attention sink)现象——

即使没有任何语义,初始token会被后续token持续关注。这些token的作用不是「理解」,而是数值稳定。

结果,实现了常数内存的流式推理,模型上下文长度从数千token扩展到百万级

更进一步,他们又把这一思想推广到多模态,StreamingVLM可以在保持时间一致性的同时处理长达数小时的视频内容。

对于超长上下文场景,团队又提出一个互补方案,分别针对不同的性能瓶颈。

  • KVCache太大,采用DuoAttention

注意力头本身就有分工:少数负责「全局检索」,多数只看「最近上下文」。

DuoAttention用混合策略,大幅降低显存,却几乎不掉性能。

  • 预填充(Prefill)太慢,采用XAttention

利用反对角线评分机制,仅识别、计算必要的注意力块,从而实现显著的加速效果。

论文的最后,并没有止步于「优化现有模型」,通过对MoBA(块混合注意力) 的信噪比分析,作者证明了:

理论上,block越小越好。

但现实是,GPU不答应,于是有了FlashMoBA,一种定制化的CUDA内核,使小块架构在实践中可行,并实现了最高可达9倍的速度提升。

这篇论文的价值在于,构建了一整套高效大模型的完整框架,既回应了当下的现实挑战,也为下一代计算高效、普惠可及的AGI奠定了基础。

平均350万年薪,碾压OpenAI

最后来到一个大家比较感兴趣的话题——薪资。

去年,硅谷人才争夺战激烈,BI一篇独家挖到了Thinking Machines(TML)给员工们开出的薪资——

基础年薪高达50万美元(约350万元)。


据BI获取的招聘数据,TML向两名技术员工支付了45万美元的基础年薪,另一名员工的年薪则高达50万美元。

第四名员工被列为「联合创始人/机器学习专家」,其年薪同样为45万美元。这些薪酬数据,来自2025年第一季度,早于Murati以100亿美元的估值,成功完成20亿美元的种子轮融资。

总体来看,TML为这四名技术员工提供的平均年薪达到462,500美元。

相较之下,TML明显高于业内更为成熟LLM公司——

OpenAI在相关申报文件中列出的29名技术员工,平均年薪为292,115美元。

其中最高薪资为53万美元,最低为20万美元。

Anthropic向14名技术员工支付的平均年薪为387,500美元,薪资区间在30万至69万美元之间。

虽然比起Meta疯狂的超1亿美元薪酬还差得远,但这一水平也在硅谷数一数二。

果然,21世纪最贵的还是人才。

参考资料:

https://x.com/Guangxuan_Xiao/status/2008779396497502337

https://guangxuanx.com/

https://scholar.google.com/citations?user=sRGO-EcAAAAJ

https://www.eecs.mit.edu/eecs-events/doctoral-thesis-efficient-algorithms-and-systems-for-large-language-models/

https://www.businessinsider.com/muratis-new-ai-startup-salary-technical-talent-2025-6

(来源:新智元版权属原作者 谨致谢意)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
新一轮降雪将至!山东这6市局部大雪

新一轮降雪将至!山东这6市局部大雪

半岛官网
2026-01-24 09:37:16
崩牙驹为母亲庆92岁大寿!现场细节太落魄,“十三妹”原型再现身

崩牙驹为母亲庆92岁大寿!现场细节太落魄,“十三妹”原型再现身

观察鉴娱
2026-01-22 10:11:18
场均32分,带队12胜2负,真强!要这么打,那本赛季MVP或许该换人

场均32分,带队12胜2负,真强!要这么打,那本赛季MVP或许该换人

老梁体育漫谈
2026-01-24 00:03:47
东部第一轰然倒下,火箭赢球有秘诀,4招直接奏效,一人回报翻倍

东部第一轰然倒下,火箭赢球有秘诀,4招直接奏效,一人回报翻倍

体坛大辣椒
2026-01-24 11:14:11
央视为“嫣然”发声了,短短15个字,道尽了李亚鹏的辛酸

央视为“嫣然”发声了,短短15个字,道尽了李亚鹏的辛酸

娱乐故事
2026-01-22 22:23:56
土耳其外长:有迹象表明以色列正寻求攻击伊朗

土耳其外长:有迹象表明以色列正寻求攻击伊朗

财联社
2026-01-24 03:58:09
哈尔滨破千亿,全省一半人都没沾光!哪里出了问题?

哈尔滨破千亿,全省一半人都没沾光!哪里出了问题?

花小猫的美食日常
2026-01-24 09:04:32
健身服搭配秘籍:淡粉色套装与粉色包包完美融合!

健身服搭配秘籍:淡粉色套装与粉色包包完美融合!

独角showing
2026-01-24 11:11:49
特朗普连发警告:庞大舰队正朝伊朗驶来!

特朗普连发警告:庞大舰队正朝伊朗驶来!

军途
2026-01-24 10:55:14
安东尼奥若体面的离开中国足球,U23亚洲杯决赛后是最佳时机

安东尼奥若体面的离开中国足球,U23亚洲杯决赛后是最佳时机

姜大叔侃球
2026-01-23 20:55:27
他汀立新功!哈佛研究:这2种他汀不仅不伤肝,还能降低肝癌风险

他汀立新功!哈佛研究:这2种他汀不仅不伤肝,还能降低肝癌风险

医学原创故事会
2026-01-23 19:34:20
36年前陈宝国主演的盗墓恐怖片!尺度大到少儿不宜

36年前陈宝国主演的盗墓恐怖片!尺度大到少儿不宜

释凡电影
2025-08-14 09:33:19
广东一男子用SIM卡炼出近200克黄金,价值21万元

广东一男子用SIM卡炼出近200克黄金,价值21万元

东莞好生活
2026-01-23 22:20:30
不止5000美元!美银预测2026年春季黄金价格将冲至6000

不止5000美元!美银预测2026年春季黄金价格将冲至6000

汇通网
2026-01-24 01:59:21
中国建设银行浙江省分行原党委书记、行长高强被开除党籍

中国建设银行浙江省分行原党委书记、行长高强被开除党籍

财联社
2026-01-23 18:05:08
集装箱船式辅助巡洋舰开始海试,舰载武装已恢复早期60单元垂发版

集装箱船式辅助巡洋舰开始海试,舰载武装已恢复早期60单元垂发版

啸鹰评
2026-01-23 23:11:40
澳媒:中国已拥有可击败美军的战斗机!但美军拥有至关重要的王牌

澳媒:中国已拥有可击败美军的战斗机!但美军拥有至关重要的王牌

拾破烂的天真
2026-01-24 10:48:02
消费者投诉称限量发售的6.68万元“一口价”飞度要加价3000元购买,广汽本田回应:已启动专项调查

消费者投诉称限量发售的6.68万元“一口价”飞度要加价3000元购买,广汽本田回应:已启动专项调查

鲁中晨报
2026-01-22 17:23:31
脊柱断裂、前夫已死,63岁韦唯近况曝光,已然走上一条上坡路

脊柱断裂、前夫已死,63岁韦唯近况曝光,已然走上一条上坡路

林雁飞
2026-01-20 15:05:56
唯一在世的中共一代领导人,曾任中央政治局常委,如今109岁

唯一在世的中共一代领导人,曾任中央政治局常委,如今109岁

星辰故事屋
2026-01-23 12:14:47
2026-01-24 12:08:49
化学人生 incentive-icons
化学人生
~人生如化学 化学悟人生~
6935文章数 20610关注度
往期回顾 全部

科技要闻

特斯拉Cybercrab即将落地 每公里不到1块钱

头条要闻

专家:特朗普或在春天访问中国 其被认为是"对华鸽派"

头条要闻

专家:特朗普或在春天访问中国 其被认为是"对华鸽派"

体育要闻

当家球星打替补,他们在故意摆烂?

娱乐要闻

李微漪更新:狼王格林去世,3字泪目

财经要闻

“百年老字号”张小泉遭60亿债务压顶

汽车要闻

售75.58万元,新款大众途锐3.0TSI锐臻版上市

态度原创

健康
教育
房产
本地
公开课

耳石脱落为何让人天旋地转+恶心?

教育要闻

瓜豆原理求路径长,一个视频学会!

房产要闻

正式官宣!三亚又一所名校要来了!

本地新闻

云游中国|格尔木的四季朋友圈,张张值得你点赞

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版