你正在阅读的是《MindCode321》周报。
周报每周五发布,包括:3个我的想法、2个来自别处的启发、1个留给你思考讨论的问题。主题涵盖AI、脑科学、心理、创业。一般是这样,偶尔,某期周报里是别的东西。
周报力求简短,保证你在5分钟内读完。
以下是本期内容,我说的都是错的:
三个想法 想法1:好的提示词是一首诗,而你最好尝试写写诗。
注意这不是比喻,而是陈述:诗意的Prompt往往就是好Prompt。
首先,从工程上看,诗的格律和押韵是一道"约束墙"(正则化机制),而基于大模型总是在“预测下一个token”的原理,诗意化的Prompt会诱导乃至强迫大模型放弃最”顺手“也最平庸的高频词汇,转而去寻找更全局、更有突破性的解。
其次,如果你读过诗,你会有感觉,诗天然就是多模态的。脑成像研究显示:相比其他文字形式(比如散文),你在读诗的时候,更多脑区会被同时激活。不仅是语言区,还会唤醒听觉、运动甚至默认模式网络。诗意的Prompt对AI神经网络也有类似的效果。
第三,诗会大量使用隐喻,隐喻的作用是连接两个远距离的概念,它让未知概念与已知概念相关联进而变得可理解,乃至让原本”漂浮”在认知之外的概念被照见。这对提升AI的洞察力很有帮助。
第四,诗的用词往往高度压缩,这是诗歌的题材决定的。而高度压缩的提示词往往更能提升AI表现的稳定性。
第五,诗是人类创造新词、新概念最主要的方式。每当技术大爆发但格局未定时,诗总会迎来井喷——人类迫切需要新的语言来描述新的现实。AI时代,原有的旧词汇表是不够用的,人跟人交流需要新词汇,人跟AI交流也需要——如果不是更需要的话。
所以,如果你遇到一段提示词,效果很好,偏偏还写得很有诗意,这不是因为写它的故意要凹造型当诗人,而是只有诗人才能写得好提示词。
所以,你最好自己尝试写写诗。
说起来,在这个文科被越来越忽视的年代,提倡写诗,还真有点非共识。
想法2:在这个世界上,只有你一个人按你的方式活过一次,这是你最大的优势。
从这个逻辑出发,稍微推导一步,我们就可以得出这样一个结论:必定存在某个细分领域,在这个领域里,你就是世界第一。
这是你抛开所有外在条件与附属之后,最本真的优势,这是任何情况下都不会被夺走的优势。
我不是给你打鸡血,这是严格逻辑推导下的结论。
想法3:厉害的人收集反馈,更厉害的人构建reward model。
为什么?因为大部分反馈你无法直接收集。
获得反馈看起来很简单:问对方就行了。但真相是,人很少愿意直接告诉你他的真实想法。
你需要考虑人性、设计结构才能获得真实反馈。
举个例子:你跟投资人聊完自己的创业项目后,询问他的反馈,对方说"挺好的,我们一定一定保持联系",请问这是投资人的真实想法吗?
显然不是。
那怎么获对方的真实反馈呢?在这个例子中,你需要第三人,一个你们双方都相对信任的人,让他去询问和拿到反馈。
这个第三人就是你的reward model的核心(不是全部而是核心,因为还有其他环节)。
所以,好的FA(财务顾问)的价值不是牵线,而是协助创始人搭建整个融资过程的reward model,并成为其中的核心。
两个收获 收获1:
“为什么语言模型能从预测下一个token中学到丰富知识,而视频模型从预测下一帧中学到的却很少,尽管视频包含更多物理世界信息?” by Sergey Levine
—— 今年以来,看到的最好的问题。我自认为我对很多问题都有答案,但对于这个问题,我目前毫无头绪,尽管也有一些思路,但我直觉它们都离真正的答案很远。
收获2:
国家创建的主要目的,是对抗源自人的某种欲望的恶果……自然的恶果可以被人类的勇气、聪明和谨慎所克服……但……人类的纷争是完全不同的……争斗会再生争斗。侮辱带来报复,而报复生成新的侮辱。因此,就有必要寻求一种不允许任何进一步报复的报复——由国家是假的惩罚——或寻求一种各方有义务接受的整段解决办法,即司法裁决。 by 威廉·冯·洪堡 《论国家作用的界限》(孟凡礼 译)
——报复总是引来进一步的报复,永不停歇,今天世界上的地区冲突正式如此。如果从洪堡的这段论述看,我们可以说,任何无法遏制进一步报复的地方,都存在诞生一个新国家的机会,当然现实中这几乎不可能,但这提供了一种理解框架。
一个灵魂拷问
所以,你觉得为什么语言模型能从预测下一个token中学到丰富知识,而视频模型从预测下一帧中学到的却很少?马上点击右下角气泡按钮,写下你的答案,让大家看看你的睿智。
PS. 最后,照例补一句:我说的都是错的。
欢迎在评论区发表你的观点和洞察,但注意,所有在评论区留言“标题党”的人会被永久拉黑,MindCode致力于保持小众,如果一个标题让你惊诧,只有一个原因,那就是:我真诚地认为世界从某个角度看,跟你想象的不一样。而这是MindCode始终致力于带给你的价值。
文兄是谁?
科技领域连续创业者(目前在AI+心理领域),中美3家AI公司的CEO心智与战略教练,原阿里巴巴早期移动端核心产品负责人。未来一段时间,也许你关注的某些重要的AI产品,或某些备受关注的项目融资,背后就有他身影。
MindCode是什么?
一个刚刚决定写点好东西的、很小众的公众号。日常发短篇,偶尔有深度长文。关注:AI、脑科学、心理学、创业等。由于在几个关联领域都有很深入思考,关注者中不乏顶级牛人,比如xxx和xx。
AI时代,读他人之未读对你很重要。关注并发送“1”可加讨论小群,还可参加“读完周报再来聊聊”的闭门交流会。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.