北京
Andrej Karpathy最新长推，给出新的判断，这是对4月份他的一条推文的重新补充
Karpathy警告：全世界绝大多数人以为AI不过是个经常出错的玩具，但真实情况是，全球只有大约5000人真正见识到了前沿AI彻底失控的恐怖能力。
普通人与顶级专家对AI能力的理解断层正在急剧拉大。
这种差距已经演变成一个极其残酷的陡峭漏斗。
全世界的人口正在被切分成四个完全不同的世界。
第一层，大约60亿人，占全球人口的75%。
他们至今几乎完全没有接触过大语言模型。
第二层，大约10到20亿人，占全球人口的20%。
这批人是免费版ChatGPT这类产品的低频用户。
在他们眼里，AI是个笨拙的聊天机器人，顶多当个好一点的谷歌搜索，或者拿来改改文字，偶尔让智能体订个机票。
网上传播的很多视频里，官方语音模式连该开车还是走路去洗车这种蠢问题都答不好，经常产生幻觉。
很多非技术领域的职场人、公司高管都停留在这一层。
他们平时的工作主要是与人沟通，对AI的认知全靠道听途说，概念极其抽象。
他们得出的结论很自然：这东西对我没多大用。
第三层，大约2000万人，占全球人口的0.2%。
这批人正在数学和编程等专业领域，高频使用最顶级的商用模型，比如OpenAI Codex和Claude Code。
他们亲眼看着以前需要人类耗费数周甚至数月的大型复杂项目，现在被智能体用一句指令搞定。
做应用、复制应用、翻译代码、从二进制文件里反编译应用，AI全都做到了。
卡帕西说，就在不到一年前，他还在代码编辑器里一个字符一个字符手动敲代码，偶尔按一下Tab键补全几行。
现在这一切彻底成了历史。
这批每个月愿意花200美元以上的技术人员，正在经历强烈的AI眩晕症。
他们把终端交给模型，看着模型瞬间融化掉那些原本要写几周的代码难题。
第四层，金字塔最顶端的大约5000人，全球占比只有0.00006%。
他们能直接接触实验室内部最前沿的未公开系统。
外界目前看到的只是冰山一角。
这5000人看到的是：
成千上万个智能体组成的集群，连续协同工作几个星期，攻克超大规模的软件工程。
智能体自己在系统里挖出0day漏洞。
以机器的速度，自动发起并防御网络攻击。
发现全新的科学规律。
推进入类数学的最前沿。
这些工作原本需要行业顶级专家耗费数年时间。
人类的审查和理解速度已经开始全面落后于AI。
大家到现在还在考古分析几个月前的OpenAI与HF事件。
数学家们光是阅读和消化模型写出来的722篇前沿数学论文，就要耗费极长时间。
为什么普通人觉得AI很傻，顶尖圈子却觉得AI在垂直狂飙？
卡帕西指出了背后的三个核心原因。
第一，使用者的目标规模完全不同。
如果你只给模型丢一个段落就能回答的生活小问题，根本测不出模型的真正实力。
你必须拥有海量、极其困难、你真正关心的超级难题，才能榨出它的极限能力。
第二，模型的能力分布极度不均匀。
AI在数字化、结果可验证、商业价值极高的领域表现最强，比如数学和编程。
因为大模型的能力来自于强化学习。
代码写得对不对，测试用例通没通过，数学证明成不成立，都有绝对客观的标准，可以通过结果给予明确的算法奖励。
但聊天、写作、日常建议根本没有客观的对错标准，很难做强化学习训练。
同时，企业级软件和网络安全能赚到巨额利润，开发团队会把绝大部分资源集中在这些能赚大钱的方向上。
日常闲聊不赚钱，自然得不到重点攻坚。
第三，访问权限完全不平等。
免费层级、付费层级、实验室内部层级，彼此看到的是完全不同的产物。
大众看到的是经常翻车的聊天框。
大部分普通专业人员只感受到了微弱的工作提效。
极少数人正在看着陡峭的技术曲线笔直向上狂飙。
这几种完全撕裂的现实，正在此时此刻同时发生。
4月那条推文说了什么
卡帕西在4月10日的原推文里,讲了两个问题。
第一个问题,出在使用时间和使用档位。
很多人去年试过一次免费版ChatGPT,就拿这次体验定下了对AI的看法。
这群人嘲笑模型的各种怪癖和幻觉。
卡帕西也看过OpenAI高级语音模式的病毒视频,它在回答该开车还是走路去洗车店这类简单问题时翻了车。
但这些免费的、旧的、已被弃用的模型,代表不了今年最新一轮最先进的智能体模型,尤其是OpenAI Codex和Claude Code。
第二个问题,即便每月付200美元用上最先进的模型,能力也集中在高度技术性的领域。
搜索、写作、建议这类常见用法,进步没有那么明显。
部分原因在强化学习和可验证奖励的技术细节。
另一部分原因是,这些场景带来的收入不多,公司没有优先去提升它们。
赚钱的方向在别处,精力也就跟着投到别处。
于是出现了另一群人。
他们既付费使用最先进的智能体模型,也就是OpenAI Codex和Claude Code,又在编程、数学、研究这些技术领域专业使用。
这群人的AI精神病程度最高,因为今年这些领域的进步堪称惊人。
给这些模型一个终端,你能看着它们解决原本预计要花几天甚至几周的编程问题。
这群人更看重这些能力本身、能力提升的斜率,以及各种网络安全层面的后果。
卡帕西的总结是,这两群人在各说各话。
两件事同时成立。
OpenAI免费的、似乎已经被冷落的高级语音模式,会答错Instagram短视频里最蠢的问题。
而OpenAI最高档的付费Codex模型,可以连续工作1小时,条理清晰地重构整个代码库,或者找到并利用计算机系统中的漏洞。
后一种能力真实有效,进步巨大,原因有两个。
一是这些领域有明确、可验证的奖励函数,容易做强化学习训练。
比如单元测试通过与否,而写作就难以明确评判。
二是它们在企业服务场景中价值更高,团队里最大比例的人力都投在这里。
事情就是这样。
—THE END—
编辑：fanye
作者：AI寒武纪
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
