AI 终将会有自己的宗教 | MindCode 周报

你正在阅读的是《MindCode321》周报。

周报每周四（或五）发布，包括：3个我的想法、2个来自别处的启发、1个留给你思考讨论的问题。主题涵盖AI、脑科学、心理、创业。一般是这样，偶尔，某期周报里是别的东西。

周报力求简短，保证你在5分钟内读完。

以下是本期内容，我说的都是错的：

三个想法 想法1：不要问AI，让AI来问你。

一般AI使用者，会向AI提问，获得回答后，有时骂骂，有时夸夸。真正的高手，会让AI来问自己，前几轮对话中，收到提问后，常常挑刺，然后慢慢的，开始偶尔表扬。

想法2：强化学习的幻觉来源于训练环境复杂度不够，而这背后涉及到“智能的层次和统一性”的问题。

强化学习也会有严重的幻觉、偷懒等问题，这并非AI的强化学习能力低，而是能力过高，训练环境的复杂度跟不上了。

究其本质是另一种“过拟合”。

监督学习、半监督学习，现在面临的是数据荒（我认为是暂时的），RL学习面临的是复杂度荒。

当然从更高的抽象角度看，其实本质没有区别，只是层次不同。

智能是在不同层次上发生的：微观层面，输入token，输出对下一个token的预测；中观层面，输入状态，输出对下一个状态的预测；宏观层面，输入现象，输出对下一个现象的预测。

这是分形之下的连续统一性。

尤其注意看最后一个，“输入现象，输出对下一个现象的预测”这其实恰好的是人类对于科学的定义：解释已知现象，并预测未被观察到过的新现象。

所以，那种认为“AI 不过是预测下一个token，因此没有真正的智能和意识”的观点，是丝毫站不住脚的。

稍微插一句，随着AI跟越来越高的复杂度环境做互动，尤其是进化算法等更进一步的发挥作用，我相信：AI最终将会有自己的宗教。关于这点，这里的空白太小我写不下，咱们未来另找时间讨论。

想法3：有趣的新词：“你prompt到了我”。

当你朋友问你一个问题时，你就可以这么回一句。

大概意思是，你这个的问题，命中了我，让我能深入思考，且我感觉我将能给出精彩回答。

注意，这是一种全新的人与人之间的交流范式，过去是没有的。

别反驳，真的过去没有过。

过去我们最多会说“嗯，你提了个好问题”或者“这个问题很有启发”。但这并不能涵盖“你prompt到我了“的意思。

后者是这样一种感觉：你提了一个深刻的、而且我从未想过的问题。在你问我之前，这个问题从未在我脑海里出现过，自然地，我也从未有过关于它的答案，但当你提出来那一刻，我却能确切的意识到——它是属于我来回答的问题，而且我可以回答得惊为天人。

你看，AI 不但再改变每一个人，而且正在悄无声息的改变人与人。

两个收获 收获1：

很多时候，一件正确的事情，往往看起来没啥深度。 by 野区学校创始人刘伟

——考试的时候，越有深度的问题，如果回答对了，越能得高分，但现实世界并不如此。即便做为高科技的AI，今天倍奉为圭臬的训练方法，就曾经因为其理念一眼看去“没啥深度”，而被人长期忽视。背后的原因？也许是因为，世界本质是各个草台班子搭起来的。

收获2：

一个物理系统，比如我们的大脑，在“硬件层面”本身不可能有意识，只有物理之上的模拟才能有意识。意识是被模拟的自我所拥有的一种被模拟的属性。 by 认知科学家 Joscha Bach

——这段话很拗口，它的大意是，大脑用神经元活动在体内实时“跑”出一套模拟程序，用来模拟出外部世界、模拟出一个自己，以及模拟出此刻正在发生的事。这跟我在2年前的里提到的“外部世界的内部模型”，是差不多的意思。不过Joscha Bach还特别强调了一点，除了外部世界，“自我”也是模拟的结果。

一个灵魂拷问

你是否经常让AI问你问题？点击右下角气泡图标，写下你的回答。

文兄是谁？

科技领域连续创业者（目前在AI+心理领域），中美3家AI公司的GPT战略顾问，原阿里巴巴早期移动端核心产品负责人，CEO心智与战略教练。未来一段时间，也许你关注的某些重要的AI产品，或某些备受关注的项目融资，背后就有他身影。

MindCode是什么？
一个刚刚决定写点好东西的、很小众的公众号。日常发短篇，偶尔有深度长文。关注：AI、脑科学、心理学、创业等。由于在几个关联领域都有很深入思考，关注者中不乏顶级牛人，比如xxx和xx。

AI时代，读他人之未读对你很重要。关注并发送“1”可加讨论小群，还可参加每周一晚的“读完周报再来聊聊”的闭门交流会。