网易首页 > 网易号 > 正文 申请入驻

DeepSeek掀“AI冷战”?科技顶流播客5小时解读,30条观点一文速通

0
分享至


智东西
编译 陈骏达
编辑 Panken

智东西2月13日报道,春节期间,DeepSeek一跃成为全球科技界的顶流,从媒体头条到巨头财报都有其身影。AI界声量最大的播客节目之一Lex Fridman Podcast也发布了一期长达5小时的深度播客,花费大量篇幅讨论了DeepSeek对全球AI发展趋势的影响及其技术优势。

节目嘉宾分别为半导体行业咨询公司SemiAnalysis创始人Dylan Patel与艾伦人工智能研究院研究科学家Nathan Lambert。

Lambert将DeepSeek在强化学习上的突破称为“DeepSeek时刻”。针对OpenAI对DeepSeek抄袭的指控,Lambert特别强调DeepSeek-R1不太可能窃取了OpenAI o1的推理链数据,而是通过基于强化学习的“试错”型学习模式,让模型自然涌现出了推理能力。

两位嘉宾还详细拆解了DeepSeek的技术优势。DeepSeek创新的MLA机制与初代注意力机制相比,内存使用降低了80%-90%。DeepSeek还通过对MoE架构路由机制的创新,提升了专家模型的使用效率,实现降本增效。

参与对谈的三人都对DeepSeek的开源模式深表赞同,Lambert称其为“真正的开源”,而Fridman则夸赞其技术报告详尽,具备较好的可操作性,是开源界的一股积极力量。本地运行开源模型还能更好地保护用户隐私数据。

计算资源方面,Patel认为DeepSeek在全球名列前茅,仅次于OpenAI、Anthropic、Meta等少数几家公司,可能拥有50000张左右GPU。这一数字虽然与国际巨头动辄10万卡量级的储备有一定差距,但巨头们还需要将这些算力分配给其他业务。

因完整节目过长,智东西特别整理出访谈中几位嘉宾关于DeepSeek值得关注的五大观点,供大家参考:

一、DeepSeek的贡献:最开放的前沿模型之一,推动AI知识普及

1、DeepSeek-R1上线后立即开源,并特别采⽤了宽松的MIT许可证,没有对商用和具体用例进行限制,这也意味着其他开发者可以使用这款模型输出合成数据,训练高质量模型。

2、虽然Llama也开源了权重,并附带技术报告,但DeepSeek的技术报告可操作性更强,也披露了更多的训练细节,还包括开发过程中遇到的困难,可能是⽬前最开放的前沿模型之⼀。

3、DeepSeek团队推动了AI知识的普及,他们的论文详细披露技术细节,连失败的经验都悉数分享,为全球其他团队改进⾃身训练技术提供了切实可⾏的参考。

4、能通过优化芯片底层代码,实现高效训练的人才屈指可数,DeepSeek就拥有此类人才。从全球范围来看,这种人才只存在于美国的前沿实验室和DeepSeek这样的企业。

5、模型本身并不会窃取数据,模型的托管方才有可能窃取数据。DeepSeek的开源意味着用户不必联网使用AI服务,对自己的数据有完全的掌控权。

6、梁文锋是一位马斯克、黄仁勋式的人物,他事必躬亲,深入研究AI技术;他坚信AGI(通用人工智能)的愿景,并希望让中国在AI⽣态系统建设⽅⾯发领导作⽤,是DeepSeek背后的“梦想家”。

7、DeepSeek-R1在海外引发担忧,本质上是因为其提出了新的模型训练方向。AI技术惊人发展,未来更多类似的突破还会出现,目前虽然有很多人在关注Agent,但AI的未来不止于此。

8、模型表现得好就应该尽快发布,由于AI发展迅猛,企业最好能缩短模型训练完成到正式发布之间的时间差距。如果运行良好,就尽快发布,这能提升用户对产品性能提升的感知。DeepSeek在这方面做得更好。

二、模型特点:推理能力靠自学,大方展示思维链

1、DeepSeek-R1的亮点之一是会展示完整思维链,模型的思考过程本身能提供一种独特的美感。o1-pro在许多问题上的表现仍然比较亮眼,o3-mini-high聪明快速但平庸,缺乏新意与深度。

2、DeepSeek-V3倾向于快速生成答案,通常会以格式化的方式呈现,与大部分AI模型类似。DeepSeek-R1会先呈现大量思维链过程,然后转变语气,给出最终答案,答案的形式与V3类似。

3、OpenAI与DeepSeek的服务成本差异巨大,这是因为前者的利润率很高,毛利超75%。DeepSeek其实是在赔钱运营,目前还没有能力大规模提供服务。

4、DeepSeek-R1的推理能力不太可能是因为他们窃取了OpenAI o1的推理链数据。即便DeepSeek真如OpenAI指控的那样蒸馏了模型,也在效率方面实现了令人惊叹的成就。

5、DeepSeek-V3与DeepSeek-R1都使用了DeepSeek-V3 base作为基础模型。这一基础模型在预训练阶段,通过预测互联网上海量文本中的下一个词语,学习了语言的通用规律。其主要功能是续写文本,但并不像主流的聊天机器人那样易于使用。

6、DeepSeek-V3采用的后训练流程,通过指令调优、基于人类反馈的强化学习(RLHF)等方法,构建出了指令模型、聊天模型或者所谓的“对齐模型”、“助手模型”等。DeepSeek-V3的性能出色,可以与GPT-4、Llama 405B等模型媲美。

7、DeepSeek-R1-Zero没有使用人工撰写的推理数据作为参考,而是运用了强化学习的方式,让模型自己在大量已有标准答案的可验证问题上进行训练,并根据答案的正确性给予模型奖励,从而让模型自发地涌现出了推理能力。

8、DeepSeek-R1完整版的推理能力是预训练语言模型和强化学习结合的产物。在推理训练之后,进行了基于人类反馈的强化学习。

三、技术突破:MoE架构、降低成本、底层优化

1、DeepSeek创新的多头注意力机制在长上下文的处理过程中有很大优势。与初代注意力机制相比,这一创新能让注意力机制的内存占用减少大约80%-90%。

2、DeepSeek显著改进了专家混合模型(MoE)的路由机制,并引⼊了⼀个额外的参数,通过不断更新这个参数,积少成多,最终让模型能更均衡地使⽤所有专家。

3、为实现性能的最大化,DeepSeek进行了CUDA层以下的超底层编程优化,精细地控制哪些核心负责模型计算、哪些核心负责通信,并在两者之间进行动态切换。

4、通常的MoE模型只包含8-16个专家模型,每次激活两个模型,但DeepSeek采用了极高的稀疏因子,并从256个专家模型中激活8个,减少了激活参数的规模,从而让成本更低。

四、训练启发:不断小规模试错,但也要有All-in的勇气

1、“苦涩的教训”:在深度学习领域,那些具有可扩展性的学习和搜索⽅法最终会胜出,研究人员最好减少人为先验知识的影响,探索有效利用深度学习系统,解决宏大问题的简单方法。DeepMind没有使用人为数据,凭借强化学习就训练出了强大的AlphaZero模型,有效证明了上述观点的正确性,而DeepSeek-R1在推理能力上实现的进步,也源自强化学习。

2、DeepSeek的代码库很可能比较混乱,用于测试各种新想法。初期代码比较粗糙,但用于训练DeepSeek-V3和DeepSeek-R1的代码质量会比较高。

3、DeepSeek通过大量小规模的失败,逐渐积累经验,证明了专家混合模型的有效性、MLA方案的可行性等,最终找到超参数成功组合。这一过程中需要不断试错。

4、在试错到一定阶段时,开发者也需要发挥YOLO精神(即You Only Live Once,只活一次,大胆去做),将全部资源押注于一条路径上。DeepSeek早期几乎赌上全部资源,正如OpenAI 2022年用公司100%的资源训练GPT-4那样,都是极为大胆的举措。

五、计算资源:集群规模全球领先,与幻方共享基础设施

1、幻方量化在2021年时就对外界宣称拥有万卡A100集群,虽然这些模型并不全部应用于大语言模型训练。后期DeepSeek成立后他们持续购⼊更多的GPU,并与幻方量化共享基础设施。DeepSeek论文中提到V3模型训练时用了2000个H800 GPU,但SemiAnalysis认为他们实际拥有的GPU数可能接近50000个,但分布于多个领域。

2、Meta同样训练开源模型,他们的训练集群拥有约60000-100000个H100等效GPU,Llama 3训练时使用了16000个H100 GPU,Meta去年披露其总计购买了40多万个GPU,其中仅有很小一部分用于模型训练。从这一角度来看,DeepSeek的集群规模在全球范围内名列前茅,仅次于OpenAI、Anthropic、Meta等少数几家公司。

3、无论将超级AI应用于哪里,都需要大量计算能力,计算资源差距累积效应对美国至关重要。如果未来世界只有2%-3%的经济增长,那维持芯片这样的高科技产品出口是很愚蠢的,会损失大量经济利益。但在超级AI即将出现,并产生重大影响的背景下,美国单方面维持技术差距是有利可图的。随着AI对算力的需求呈指数级增长,即便是DeepSeek这样的中国企业也会在大规模普及AI的过程中遇到困难。

六、DeepSeek或将开启一场AI冷战

1、AGI可能会在2030年之后实现,未来⼏年会持续出现快速、令⼈惊讶的进展。DeepSeek-R1就是这一进程中的一个最新进展。

2、AGI竞赛不会是“赢家通吃”的局面,目前AI领域的各大玩家都还在牌桌上,谷歌仍是AGI竞赛的领跑者,OpenAI则更具有舆论优势,微软已经在AI方面实现盈利。

3、DeepSeek的出现让中美双方都更为直接地感受到AGI的影响。DeepSeek时刻很可能是⼀场冷战的开始,但这不是DeepSeek的错,⽽是⼀些因素共同作⽤的结果。

视频链接:

https://www.youtube.com/watch?v=_1f-o0nqpEI

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
普京专机到达深圳,不少网友注意到,他居然没带那件关键设备

普京专机到达深圳,不少网友注意到,他居然没带那件关键设备

青山夜谈
2026-11-19 06:24:06
福克斯谈哈珀受伤:需要其他人在队友缺阵时弥补他们的空缺

福克斯谈哈珀受伤:需要其他人在队友缺阵时弥补他们的空缺

北青网-北京青年报
2026-11-19 08:15:02
台湾飞行员黄植诚起义后娶了空姐,8年后她前往美国再也没回来,安全部门半夜围了住处,谁也没想到最后在卧室搜出了这个

台湾飞行员黄植诚起义后娶了空姐,8年后她前往美国再也没回来,安全部门半夜围了住处,谁也没想到最后在卧室搜出了这个

磊子讲史
2026-11-16 14:38:55
刘德华辅导女儿功课也头疼,他表示:“最烦恼数学,算来算去结果都对不上”

刘德华辅导女儿功课也头疼,他表示:“最烦恼数学,算来算去结果都对不上”

韩小娱
2026-11-18 08:10:38
曼晚:卡里克赋闲不到一周,斯旺西有意邀其执教

曼晚:卡里克赋闲不到一周,斯旺西有意邀其执教

懂球帝
2026-11-18 16:36:06
新加坡总理黄循财人民日报撰文:新中携手,共创开放互联的未来

新加坡总理黄循财人民日报撰文:新中携手,共创开放互联的未来

澎湃新闻
2026-11-18 08:00:06
车船税优惠大调整!2027年1月1日起,大部分车主或将受到影响?

车船税优惠大调整!2027年1月1日起,大部分车主或将受到影响?

触摸史迹
2026-11-17 09:20:45
姑娘,出去玩也要注意下穿着,旁边大爷看了直摇头,好尴尬

姑娘,出去玩也要注意下穿着,旁边大爷看了直摇头,好尴尬

舞指飞扬
2026-11-13 07:42:15
2026年养老金调整通知晚发,退休人员从1月1日起的补发会少吗?

2026年养老金调整通知晚发,退休人员从1月1日起的补发会少吗?

人世间的事与人
2026-11-17 23:08:33
中美局势可能发生大反转,最先超过美国的不是经济,而是这个方面

中美局势可能发生大反转,最先超过美国的不是经济,而是这个方面

揽星戈
2026-11-08 19:41:50
黄仁勋事件,美国政府突然回过味来

黄仁勋事件,美国政府突然回过味来

牛弹琴
2026-11-18 07:40:33
六台:皇马可能会接受1.5亿欧以上出售维尼修斯,枪手正在关注情况

六台:皇马可能会接受1.5亿欧以上出售维尼修斯,枪手正在关注情况

懂球帝
2026-11-18 22:54:05
妻子出轨,丈夫将15公分蜡烛塞进妻子的阴道内

妻子出轨,丈夫将15公分蜡烛塞进妻子的阴道内

胖胖侃咖
2025-04-13 08:00:08
别买!全是假的!又一产品大翻车,成本只有10元,很多人长期上当

别买!全是假的!又一产品大翻车,成本只有10元,很多人长期上当

孤城落日
2026-11-17 19:04:34
年终菲斯又创历史,一纪录阿卡费德勒罕见无缘上榜!

年终菲斯又创历史,一纪录阿卡费德勒罕见无缘上榜!

网球之家
2026-11-18 23:18:49
驳王小东:这几十年推动中国进步的脊梁是谁?

驳王小东:这几十年推动中国进步的脊梁是谁?

怀疑探索者
2025-09-03 21:03:03
母亲是著名演员,父亲上亿家产,他却跑龙套11年,如今终成实力派

母亲是著名演员,父亲上亿家产,他却跑龙套11年,如今终成实力派

阿讯说天下
2026-11-18 08:18:31
陆毅18岁女儿贝儿官宣签约百沐娱乐,正式以歌手出道!一波星二代扎堆涌来

陆毅18岁女儿贝儿官宣签约百沐娱乐,正式以歌手出道!一波星二代扎堆涌来

露珠聊影视
2026-11-18 14:36:57
晚上12点!CCTV5直播国足年度“重头戏”,U17国少迎战世界第一,力争21年来首胜

晚上12点!CCTV5直播国足年度“重头戏”,U17国少迎战世界第一,力争21年来首胜

大卫的篮球故事
2026-11-18 11:27:29
英超官方:哈弗茨对阵赫尔城比赛中倒地应判点球,为误判

英超官方:哈弗茨对阵赫尔城比赛中倒地应判点球,为误判

懂球帝
2026-11-18 20:04:06
2026-11-19 08:27:00
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12967文章数 117195关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

教育
游戏
健康
本地
手机

教育要闻

今年的秋假结束了,今晚!南京又要有多少娃熬夜通宵了?

美国议员称让孩子玩《GTA6》的家长不称职

医生眼里"很伤腰"的椅子,很多人天天坐

本地新闻

乌兰察布:以前种土豆,现在种Token

手机要闻

苹果自家App Store终于适配iPhone Duo,铰链屏裂事件又有新进展

无障碍浏览 进入关怀版