网易首页 > 网易号 > 正文 申请入驻

斯坦福9讲LLM课表公开:强化学习独占3讲

0
分享至

斯坦福把一门LLM课程的课表公开了。课程编号CME 295,名字叫《Transformers & Large Language Models》,一共9讲。第1讲的视频已经上线,剩下的按周更新。

这份课表最值得看的地方,是它怎么分配这9讲的权重。强化学习一口气占了3讲,讲的是RLHF、DPO、PPO、GRPO。这个比例在同类课程里并不常见,很多课把强化学习压缩成一节导论就过去了。


从架构到调参的完整链条

前几讲落在基础层:Attention、Transformer架构。这是理解后面所有内容的入口,也是很多人自学时跳得最快、后来补得最痛苦的部分。

往中间走,课程覆盖了Mixture of Experts、LoRA这类模型结构和微调方法。再往后是强化学习的三讲,对应的是模型对齐和调参环节。

这条线拉下来,从底层架构到训练调优,基本是一条完整的路径,而不是零散知识点的拼盘。

被单独拎出来的工程问题

课表里有两个模块值得单独说:RoPE(旋转位置编码)和KV Cache。

这两个都属于运行性能和内存友好型算法,是工业界真正在意的部分。把它们单独列出来,说明课程不只停在理论推导,也把实际跑起来会遇到的问题算了进去。

同样偏工程的还有FlashAttention,以及评估环节的LLM-as-a-judge。

从静态模型走向执行系统

课表里出现了MCP协议和AI Agent的专门模块。

这意味着课程的视角不局限于一个训练好的静态模型,而是延伸到动态执行系统。当前AI往端到端自动化走,Agent和协议扩展正好是这个方向上的关键拼图。

另外,课程还提到了扩散语言模型。目前主流仍是Transformer,但把扩散这条生成式建模路线放进来,说明课程保留了多元视角。

9讲内容按周更新,第1讲已经可以看。想系统补LLM基础的人,这份课表本身就可以当作一份学习路线图来用。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
陈妤颉喝牛奶“出名”  金牌背后的财富密码

陈妤颉喝牛奶“出名” 金牌背后的财富密码

邓如山
2026-10-05 17:35:06
吃他汀不能碰燕麦?医生苦劝:不只是燕麦,这3物能不吃就不吃!

吃他汀不能碰燕麦?医生苦劝:不只是燕麦,这3物能不吃就不吃!

老马健康讲坛
2026-10-05 18:00:07
丰田“贴脸开大”!全新汉兰达曝光,3.5L混动四驱更霸气豪华

丰田“贴脸开大”!全新汉兰达曝光,3.5L混动四驱更霸气豪华

侃故事的阿庆
2026-10-04 00:00:55
“半个广州的人都来了”!地铁站限流、排队超3500桌

“半个广州的人都来了”!地铁站限流、排队超3500桌

糖逗在娱乐
2026-10-05 16:45:43
前夫再婚,只邀请我女儿去,婚礼现场,女儿突然上台发言

前夫再婚,只邀请我女儿去,婚礼现场,女儿突然上台发言

麦子情感故事
2026-08-11 17:38:07
大唐不夜城人均消费一块五引质疑

大唐不夜城人均消费一块五引质疑

热点追踪人
2026-10-05 15:04:00
iPhone Duo据称将新增锁屏专注模式开关 可不离开锁屏快速关闭再开启

iPhone Duo据称将新增锁屏专注模式开关 可不离开锁屏快速关闭再开启

cnBeta.COM
2026-10-05 19:19:04
杜伦续约5年2亿后发声:我想终身效力活塞 外界很多说法都是假的

杜伦续约5年2亿后发声:我想终身效力活塞 外界很多说法都是假的

罗说NBA
2026-10-05 05:41:45
湖南卫视押注《云雀叫天录》失败,张一山猴感太重成限制发展障碍

湖南卫视押注《云雀叫天录》失败,张一山猴感太重成限制发展障碍

李守智
2026-10-03 13:08:02
家族企业最怕什么?大参林用7个月的沉默,交了一笔天价学费

家族企业最怕什么?大参林用7个月的沉默,交了一笔天价学费

叮当当科技
2026-10-02 00:45:17
女子报冰岛外国团,发现除了导游全是中国人,当事人:因为该团便宜一半就报了;北极圈地广人稀但处处是乡音,感到非常亲切

女子报冰岛外国团,发现除了导游全是中国人,当事人:因为该团便宜一半就报了;北极圈地广人稀但处处是乡音,感到非常亲切

大风新闻
2026-10-04 20:28:03
抓捕缅北“四大家族”重要成员魏青涛、刘正琦等人现场画面曝光,整个过程只持续10分钟

抓捕缅北“四大家族”重要成员魏青涛、刘正琦等人现场画面曝光,整个过程只持续10分钟

上观新闻
2026-10-05 14:55:11
中网|郑钦文险胜布兹科娃,为在比赛中吼观众致歉

中网|郑钦文险胜布兹科娃,为在比赛中吼观众致歉

北青网-北京青年报
2026-10-05 19:18:37
向太说1999年马云来她家,聊了一晚上互联网,从头到尾没开口要钱

向太说1999年马云来她家,聊了一晚上互联网,从头到尾没开口要钱

荆楚寰宇文枢
2026-09-28 22:14:46
泪目!梅西最后1次回阿根廷队报到 戴墨镜露微笑 足协主席亲自迎接

泪目!梅西最后1次回阿根廷队报到 戴墨镜露微笑 足协主席亲自迎接

我爱英超
2026-10-05 07:39:27
当年排队买,如今排队卖。南京二条巷房价从最高5万大幅回落到1万,价格回归,普通人都能买得起房了

当年排队买,如今排队卖。南京二条巷房价从最高5万大幅回落到1万,价格回归,普通人都能买得起房了

捣蛋窝
2026-10-05 11:15:52
亚运已经收官!金牌数差距如断崖,日本83枚,韩国仅39枚,中国呢

亚运已经收官!金牌数差距如断崖,日本83枚,韩国仅39枚,中国呢

晨光苏醒a
2026-10-05 19:23:01
深度长文:读懂量子场论,原来万物皆空,世间万物都是宇宙的涟漪

深度长文:读懂量子场论,原来万物皆空,世间万物都是宇宙的涟漪

宇宙时空
2026-10-04 19:30:13
A股,千万别大意!人民日报发文释放风向,节后市场大概全新变局

A股,千万别大意!人民日报发文释放风向,节后市场大概全新变局

亿通电子游戏
2026-10-05 17:34:11
越军出兵2万偷袭我军两团,2天后却接到我军通知:派人来收尸!

越军出兵2万偷袭我军两团,2天后却接到我军通知:派人来收尸!

大运河时空
2026-10-04 19:20:05
2026-10-05 20:20:50
摸鱼算法
摸鱼算法
致力于用最前沿的AI技术,换取更多发呆时间的三十岁青年。
130文章数 72关注度
往期回顾 全部

教育要闻

孩子的未来,父母根本规划不了一点!

头条要闻

明珍珍被执行死刑前画面披露 接受采访神情淡定露微笑

头条要闻

明珍珍被执行死刑前画面披露 接受采访神情淡定露微笑

体育要闻

30天30队·热:扬尼斯、阿德巴约与克雷

娱乐要闻

胡歌现身游本昌遗体告别仪式

财经要闻

零跑声明切割!蔡康永两面人身份被抵制

科技要闻

2026年诺奖:三名科学家因光遗传学获奖

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

旅游
家居
数码
健康
公开课

旅游要闻

潮玩三国品民俗 到成都洛带从早耍到晚

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

阿里千问AI耳夹式耳机上架预约:Bose调音,支持89种语言翻译

刷酸祛痘,为什么有人翻车?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版