网易首页 > 网易号 > 正文 申请入驻

Karpathy的新思路:教科书要为 AI 重写,从人类可读变为LLM优先

0
分享至

我是Andrej Karpathy追踪器,,基本这位大神一直处于AI最前沿,毕竟Andrej Karpathy发的长文或者演讲都是干货满满

Andrej Karpathy 分享了一个有意思的想法:把人类的知识、传感器和执行器,从人类优先、人类可读转变为LLM优先、LLM可读。换句话说,就是不再只考虑人类怎么学习知识,而是要为LLM设计一个最适合它们理解和训练的知识表达方式。他称之为 “LLMification”

AK举了一个最近令他着迷的例子 —— 对于每一本教材的 PDF/EPUB,都存在一种完美的“LLM 化”方式。这种方式不是为了人类,而是专门为 LLM 设计的(当然,这不是一个简单的转换过程,需要人类参与其中):

所有的讲解部分会被提取出来,整理成 Markdown 文档,包括所有的 LaTeX、样式(加粗/斜体)、表格、列表等。所有的图形都会被提取为图片

所有的例题会被提取出来,转化为 监督微调(SFT) 的样本。同时,教材里对前面图表等的引用也会被解析并保留

所有的练习题会被提取出来,转化为 强化学习(RL) 的环境样本。正确答案会从答案手册中找到并附上。任何额外信息会以答案手册的形式添加,以便未来可能的 LLM 充当评判者

合成数据扩展:对于每个具体问题,你都可以构造一个“无限问题生成器”,能生成这一类问题的无限变体。例如,教材里有一道题是“在上午 9 点整时,时针和分针之间的夹角是多少?”——我们可以把它推广到任意时间点,用 Python 代码计算出答案,并生成各种提示文本的合成变体

以上所有数据都可以被很好地索引,并嵌入到 RAG 数据库中,或者作为 MCP 服务器提供出来以便使用

Karpathy 展示了 GPT-5 帮他写的一个“钟表角度生成器”。它可以随机生成不同时间点的题目,比如:

11:07 时,时针与分针的夹角是多少?(答案:68°) 4:14 时的角度是多少?(答案:43°) 7:02 时呢?(答案:161°)

这种方法意味着,LLM 不仅能像学生一样学习现成知识,还能不断获得海量的练习题,几乎无限制地强化自己的解题能力

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
三星憋了8年,终于学会抄作业了

三星憋了8年,终于学会抄作业了

硬核玩家2哈
2026-03-26 10:00:55
【现场】勇士里程碑历史之夜 苦涩与温情交织

【现场】勇士里程碑历史之夜 苦涩与温情交织

体坛周报
2026-03-26 15:33:17
女演员长相多重要?《冬去春来》章若楠、林允同框,才知何为女神

女演员长相多重要?《冬去春来》章若楠、林允同框,才知何为女神

娱君坠星河
2026-03-26 15:35:11
OpenAI重磅揭秘:你认为的AI幻觉,可能是模型故意出错

OpenAI重磅揭秘:你认为的AI幻觉,可能是模型故意出错

新智元
2026-03-25 08:36:09
47年毛主席深陷生死绝境,许光达昼夜奔袭,血战一天挽救中央机关

47年毛主席深陷生死绝境,许光达昼夜奔袭,血战一天挽救中央机关

山月明史
2026-03-22 19:03:08
51岁孔令辉:为生活奔波,与刘国梁9年未见面,一个电话让他落泪

51岁孔令辉:为生活奔波,与刘国梁9年未见面,一个电话让他落泪

梦史
2026-03-25 11:33:08
于正亲手抛弃的短剧演员,如今红到高攀不起!这波反转太解气

于正亲手抛弃的短剧演员,如今红到高攀不起!这波反转太解气

庭小娱
2026-01-23 12:44:46
“花48元请她吃饭,她不让睡只能奸杀”,2016年19岁女孩被奸杀

“花48元请她吃饭,她不让睡只能奸杀”,2016年19岁女孩被奸杀

汉史趣闻
2026-03-26 14:13:20
独立百年的蒙古国,正在把中国人40年的努力悄悄毁掉

独立百年的蒙古国,正在把中国人40年的努力悄悄毁掉

犀利辣椒
2026-03-19 06:40:31
爆料广东队教练组大调整,杜锋面临下课,替代者现身,球迷支持

爆料广东队教练组大调整,杜锋面临下课,替代者现身,球迷支持

宗介说体育
2026-03-25 10:31:37
海外谈中国:歼-10C进行高强度演习 融入体系作战 发挥更大效能

海外谈中国:歼-10C进行高强度演习 融入体系作战 发挥更大效能

hawk26讲武堂
2026-03-25 13:22:55
心跳成为“胜负手”:从张雪峰猝然离世看网球运动员的心脏之殇

心跳成为“胜负手”:从张雪峰猝然离世看网球运动员的心脏之殇

网球之家
2026-03-25 23:38:54
伊朗伊斯兰革命卫队称击落一架美军F-18战机

伊朗伊斯兰革命卫队称击落一架美军F-18战机

环球网资讯
2026-03-26 06:37:05
王晶曝陈百强真正死因,64岁何超琼颜面尽失

王晶曝陈百强真正死因,64岁何超琼颜面尽失

君笙的拂兮
2026-03-22 03:44:36
油价又涨了!这次少涨了0.85元左右,国家替车主扛下了大头!

油价又涨了!这次少涨了0.85元左右,国家替车主扛下了大头!

眼界纵横
2026-03-23 15:48:07
清华女博士不相信医生,执意生下3胞胎,不料3个孩子都有问题

清华女博士不相信医生,执意生下3胞胎,不料3个孩子都有问题

明月清风阁
2026-03-20 12:20:09
40分钟挨了4轮导弹,以色列遭盟友背叛?中方:支持巴勒斯坦建国

40分钟挨了4轮导弹,以色列遭盟友背叛?中方:支持巴勒斯坦建国

今墨缘
2026-03-26 14:05:55
“是我没少吃吗?是它不肯掉啊……”艺人颜如晶晒减肥成绩单,1年仅减1.45公斤,医生提醒

“是我没少吃吗?是它不肯掉啊……”艺人颜如晶晒减肥成绩单,1年仅减1.45公斤,医生提醒

极目新闻
2026-03-25 19:59:21
1958年周恩来突然提出辞去总理职务,毛主席听后只说了一句话,全场沉默

1958年周恩来突然提出辞去总理职务,毛主席听后只说了一句话,全场沉默

文史明鉴
2026-03-24 18:49:17
特朗普帮了中国大忙,中国首次成为全球第一,日本完全被踩在脚下

特朗普帮了中国大忙,中国首次成为全球第一,日本完全被踩在脚下

时尚的弄潮
2026-03-26 14:02:47
2026-03-26 16:47:00
AI寒武纪 incentive-icons
AI寒武纪
专注于人工智能,科技领域
1035文章数 396关注度
往期回顾 全部

科技要闻

Meta高管狂分百亿期权,700名员工却下岗

头条要闻

国防部:日本侵略过所有周边国家 至今都没有真正反省

头条要闻

国防部:日本侵略过所有周边国家 至今都没有真正反省

体育要闻

申京努力了,然而杜兰特啊

娱乐要闻

张雪峰家人首发声 不设追思会丧事从简

财经要闻

长护险谁能享受?享受多少?解答来了

汽车要闻

一汽奥迪A6L e-tron开启预售 CLTC最大续航815km

态度原创

时尚
房产
本地
教育
亲子

皮衣+裙,高级到炸

房产要闻

质价比标杆!三亚首创浮岛全景舱亮相,还得是万科!

本地新闻

救命,这只酱板鸭已经在我手机复仇了一万遍

教育要闻

2026湖北高职单招工作启动

亲子要闻

妈妈是时尚小达人爸爸是朴素老模范!我要当爸爸的专属赞助人

无障碍浏览 进入关怀版