网易首页 > 网易号 > 正文 申请入驻

Karpathy的新思路:教科书要为 AI 重写,从人类可读变为LLM优先

0
分享至

我是Andrej Karpathy追踪器,,基本这位大神一直处于AI最前沿,毕竟Andrej Karpathy发的长文或者演讲都是干货满满

Andrej Karpathy 分享了一个有意思的想法:把人类的知识、传感器和执行器,从人类优先、人类可读转变为LLM优先、LLM可读。换句话说,就是不再只考虑人类怎么学习知识,而是要为LLM设计一个最适合它们理解和训练的知识表达方式。他称之为 “LLMification”

AK举了一个最近令他着迷的例子 —— 对于每一本教材的 PDF/EPUB,都存在一种完美的“LLM 化”方式。这种方式不是为了人类,而是专门为 LLM 设计的(当然,这不是一个简单的转换过程,需要人类参与其中):

所有的讲解部分会被提取出来,整理成 Markdown 文档,包括所有的 LaTeX、样式(加粗/斜体)、表格、列表等。所有的图形都会被提取为图片

所有的例题会被提取出来,转化为 监督微调(SFT) 的样本。同时,教材里对前面图表等的引用也会被解析并保留

所有的练习题会被提取出来,转化为 强化学习(RL) 的环境样本。正确答案会从答案手册中找到并附上。任何额外信息会以答案手册的形式添加,以便未来可能的 LLM 充当评判者

合成数据扩展:对于每个具体问题,你都可以构造一个“无限问题生成器”,能生成这一类问题的无限变体。例如,教材里有一道题是“在上午 9 点整时,时针和分针之间的夹角是多少?”——我们可以把它推广到任意时间点,用 Python 代码计算出答案,并生成各种提示文本的合成变体

以上所有数据都可以被很好地索引,并嵌入到 RAG 数据库中,或者作为 MCP 服务器提供出来以便使用

Karpathy 展示了 GPT-5 帮他写的一个“钟表角度生成器”。它可以随机生成不同时间点的题目,比如:

11:07 时,时针与分针的夹角是多少?(答案:68°) 4:14 时的角度是多少?(答案:43°) 7:02 时呢?(答案:161°)

这种方法意味着,LLM 不仅能像学生一样学习现成知识,还能不断获得海量的练习题,几乎无限制地强化自己的解题能力

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
曝光!剪一次头!!20万美元!

曝光!剪一次头!!20万美元!

柚子说球
2026-05-10 11:24:26
伊朗宣布:没收262处“叛国者”房产!霍梅尼之孙:最高领袖正全面掌握国家事务;美军称继续对伊海上封锁,英国将派遣舰艇参加护航行动

伊朗宣布:没收262处“叛国者”房产!霍梅尼之孙:最高领袖正全面掌握国家事务;美军称继续对伊海上封锁,英国将派遣舰艇参加护航行动

每日经济新闻
2026-05-10 00:12:09
国家力挺!张雪机车获200亩用地+2.4亿授信,研发占比9.33%!

国家力挺!张雪机车获200亩用地+2.4亿授信,研发占比9.33%!

世界圈
2026-05-10 08:51:12
深圳终究失去“中国第一高楼”,华润接手地块!

深圳终究失去“中国第一高楼”,华润接手地块!

GA环球建筑
2026-05-09 23:46:06
别碰!别吃!别养!一只就携带100条虫,看到赶紧远离

别碰!别吃!别养!一只就携带100条虫,看到赶紧远离

齐鲁壹点
2026-05-08 06:35:47
他是外交部原部长,1985年被邓小平怒批“胡说八道”,活到了98岁

他是外交部原部长,1985年被邓小平怒批“胡说八道”,活到了98岁

历史人文2
2026-05-09 22:00:03
砸了5亿美金还没当上爷,他们才是最怕世界杯转播权谈崩的人

砸了5亿美金还没当上爷,他们才是最怕世界杯转播权谈崩的人

壹览商业官方
2026-05-09 19:10:40
张本智和:中国队时代将落幕 接下来会是日本时代 要夺世乒赛5连冠

张本智和:中国队时代将落幕 接下来会是日本时代 要夺世乒赛5连冠

风过乡
2026-05-10 11:09:20
这才是现场摄影师该干的事!

这才是现场摄影师该干的事!

贵圈真乱
2026-05-10 09:38:47
大伯出狱全家没人接,我开车去接他,他偷偷塞我一张卡说有1200万

大伯出狱全家没人接,我开车去接他,他偷偷塞我一张卡说有1200万

千秋文化
2026-05-09 20:08:48
“一个吉利”涵盖2025,“全球棋盘”看待2026

“一个吉利”涵盖2025,“全球棋盘”看待2026

汽车维基
2026-03-20 22:56:25
国家反诈平台竟成“内鬼”捞钱工具,最坚固的盾,成了最利的刀?

国家反诈平台竟成“内鬼”捞钱工具,最坚固的盾,成了最利的刀?

迷世书童H9527
2026-05-10 10:10:43
李嘉诚儿子拿下世界杯转播权,全网炸锅

李嘉诚儿子拿下世界杯转播权,全网炸锅

新浪财经
2026-05-09 18:37:21
阅兵式结束后袭击乌克兰,拒绝交换俘虏,俄罗斯拿捏泽连斯基!

阅兵式结束后袭击乌克兰,拒绝交换俘虏,俄罗斯拿捏泽连斯基!

山河路口
2026-05-10 14:01:37
OPPO母亲节活动文案引争议,武汉大学:极不认同文案价值倾向

OPPO母亲节活动文案引争议,武汉大学:极不认同文案价值倾向

界面新闻
2026-05-10 17:42:10
吴君如很早就说过了,陈妍希私下就是这样穿

吴君如很早就说过了,陈妍希私下就是这样穿

八卦王者
2026-05-10 13:24:46
系统升级后,续航从500公里变300公里,快充也从40分钟拖到70分钟……最近投诉激增!揭秘新能源车“锁电”真相

系统升级后,续航从500公里变300公里,快充也从40分钟拖到70分钟……最近投诉激增!揭秘新能源车“锁电”真相

都市快报橙柿互动
2026-05-10 15:48:38
没有外援就拔刀相向?神权杖硬刚枪杆子,塔利班进入内斗阶段!

没有外援就拔刀相向?神权杖硬刚枪杆子,塔利班进入内斗阶段!

寰球经纬所
2026-05-10 10:55:10
乌克兰的“机器狗”们已实战,单次俘虏多名俄士兵,摧毁俄军坦克

乌克兰的“机器狗”们已实战,单次俘虏多名俄士兵,摧毁俄军坦克

网易新闻出品
2026-05-09 11:37:34
打过科兴疫苗的朋友,最近一定要提高警惕!千万不要被骗!

打过科兴疫苗的朋友,最近一定要提高警惕!千万不要被骗!

网络易不易
2026-05-10 11:34:41
2026-05-10 18:39:00
AI寒武纪 incentive-icons
AI寒武纪
专注于人工智能,科技领域
1040文章数 396关注度
往期回顾 全部

科技要闻

DeepSeek融资,改写所有人的估值

头条要闻

面对中方强硬态度 世界杯中国转播费从3亿美元腰斩

头条要闻

面对中方强硬态度 世界杯中国转播费从3亿美元腰斩

体育要闻

那个曾让詹姆斯抱头的兄弟,40岁从大学毕业了

娱乐要闻

大S女儿玥儿开通账号,用烟花缅怀母亲

财经要闻

白酒大逃杀

汽车要闻

轴距加长/智驾拉满 阿维塔07L定位大五座SUV

态度原创

游戏
教育
时尚
数码
公开课

炸裂!熊孩子刮花6张PS5光盘 家长仅200元打发了事

教育要闻

小升初必考!梯形面积的计算技巧!

今年最好看的衬衫竟然是它?太减龄了!

数码要闻

华为智慧屏S7正式开售,300Hz Super MiniLED超清护眼

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版