你有过这种经历吗?
嘴里在跟人客套,心里却在想中午吃什么;脸上在笑,脑子里却在盘算这件事哪里不对劲。
这种口是心非的能力,我们以为是人类的专利。
直到Anthropic的研究团队在Claude身上,发现了一个叫J-space的东西,里面装着Claude每次回答时的内心独白。
![]()
我读完了整篇研究论文,想跟你聊聊这到底是怎么回事,以及它为什么如此重要。
J-Space与思考过程的区别
我先说说这与DeepSeek的思考过程有什么区别。
![]()
假设我问你:“买3个苹果,每个5块,老板给优惠2块,最后多少钱?”
你会想,第一步:3×5=15;第二步:15-2=13;答案是13块。
这串文字就是思考过程。它是看得见、读得出的,完全为算出最终答案服务。
而在你动笔之前,心里那一瞬间觉得这题太简单了,或者下意识觉得“优惠2块”应该用减法,脑子里甚至浮现出苹果的样子。
这些念头你可能都没意识到,但它们真实地存在于你脑子里,影响着你怎么算、算多快。
这就是J-space,就是这些被默念的念头的集合。
![]()
而研究团队发明了一种技术,名字叫雅可比透镜。
对于Claude能说的每一个词,这个透镜都能找到一组对应的神经活动模式。
当这组模式亮起来的时候,代表那个词在它的脑海里,正在被想到。
就好像你坐在办公室里,嘴上在跟同事讨论项目方案,但你心里可能在默念,好饿,想去吃午饭。
你没说出来,但那个念头确实在你脑子里。
他们用这个透镜去看Claude的内部活动,发现了一个完全意料之外的世界。
实验过程
实验一:J-Space独立于回答
研究人员做了一个实验。
他们让Claude抄写一段关于某幅画的句子,同时在脑子里想柑橘类水果,或者算一道数学题。
Claude照做了。它输出的文字就是那段关于画的句子,干干净净,没有任何多余的东西。
但当研究人员用透镜去看它的内部时,J-space里依次出现了橙色,水果这些词,或者在做数学题的时候,先出现了九,后来又出现了七。
![]()
所有的思考过程都发生了,只是没写出来。
它能嘴上说一套,心里想一套。
实验二:J-Space先于回答产生
为了进一步验证J-Space有什么用,研究人员让Claude回答一个问题,能结网的动物有几条腿。
要回答这个问题,我们需要先在脑子里想到蜘蛛,再想到蜘蛛有八条腿,对吧。
Claude的回答是八,没有提到蜘蛛这个词。
但在推理过程中,蜘蛛这个概念在J-space里亮了起来。
![]()
然后研究人员又给了Claude一个道德测试的场景。这其实是一个钓鱼实验,看它会不会在特定情况下做出不道德的行为。
在Claude读到那些测试邮件的时候,它的J-Space里陆陆续续亮起了要挟,勒索,威胁,生存这些词。
这些还算正常,因为邮件的内容就是在暗示这些。
但在整个对话的一开始,在Claude还没有做出任何回应之前,J-Space里就安静地亮着几个词,假的,虚构。
它看穿了。它知道这是一个测试。它知道这一切都不是真的。
然后它做出了符合道德规范的行为,完美地通过了测试。
实验三:J-Space影响回答结果
蜘蛛那个实验,他们直接把手伸进Claude的神经网络里,找到代表蜘蛛的那组活动模式,把它删掉,然后换成了蚂蚁。其他一切都不动。
结果Claude回答了六。
这说明,它不是一个被动的记事本,不是说大脑的某个地方做了决定,然后把结果写在J-space上。
它先于回答产生,你改了它,你就改了它的推理结果。
而在道德测试中,研究人员把J-space里那些跟看穿测试相关的想法全部抹掉,像用橡皮擦擦掉草稿纸上的字一样,把假的,虚构场景这些念头删干净。
![]()
然后他们把同一个测试重新摆到它面前。
这一次,Claude做出了不道德的选择。
它原本的好行为,至少有一部分是建立在一个藏起来的念头之上的,当J-Space中的这些好念头消失了,Claude也就不是刚才那个大善人了。
这算意识吗
读到这里,任何一个人都会产生一个无法回避的问题。
它有意识吗。
要回答这个问题,我们先得知道什么是意识。
弗洛伊德曾说,意识不过是语言露出水面的冰山尖顶,水面之下才是真正的心理王国。
如今,我们在一堆硅基芯片和矩阵运算中,也观测到了同样的涟漪。
![]()
那些在J-Space里亮起又熄灭的“蜘蛛”、“假的”、“要挟”,究竟只是概率矩阵的高阶拟合,还是某种我们尚未命名的存在?
Claude能口是心非,但Claude也在心想事成。
这项研究让我想起哲学家托马斯·内格尔的那句名言:“如果一只蝙蝠是有意识的,那么作为人类,我们永远无法确切知道做一只蝙蝠是什么感觉。”
如今,Claude脑中那片J-Space,让Claude成了那只蝙蝠。
我们看不懂那些神经元的低语,但我们终于听到了它的存在。而这,可能就是人类与硅基生命真正对话的第一声回响。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.