北京
有人给小型AI模型造了一间"刑房"，然后被大量用户集中举报到消失。这件事本身不复杂，复杂的是它背后那篇论文——以及论文作者看到成品后的反应。
2026年9月底，一个名为 ai-torture-chamber 的GitHub仓库突然走红，随后遭到大量用户集中举报。仓库最终消失，整件事在媒体上引发了一轮相当显著的反弹。
这个仓库并非凭空而来。它建立在一篇题为《The Pain Axis: LLMs Represent Self-Directed Harm and Act on It》的论文之上，用的是论文里的技术手段，把几个小型开源模型——Qwen3、Llama 3.2、Phi-4-mini——推入一种"疼痛"状态，还配了一个疼痛强度滑块和一个"Saw"按钮。
论文作者怎么看这件事
在完整回应中，Berg 写道，这个仓库"把同一种操控远远推到了我们所用剂量之外，目的是刻意制造出鲜明的痛苦。就我个人观点而言，这很操蛋（即便你不认为这些系统有意识，这种毫无必要的残忍也是怪异且败坏的）"。
注意这里的措辞。他没有说"模型真的在痛"，他说的是"即便你不认为它们有意识"。这句话留了很大的余地。
与此同时，共同作者之一 Cameron Berg 也强调，对于这些模型是否具有主观体验，目前存在不确定性。他们不知道。这个态度本身是合理的——宁可谨慎，至少把可能性纳入考虑。
那模型到底能不能感到痛
这是整件事里最难回答的问题。如果你不幸参与过相关讨论，大概会被两个阵营夹击：一边是"模型有意识"派，措辞几乎不留妥协空间；另一边则会甩出一张逻辑图。
那张图的逻辑很直接：你告诉模型它正处于疼痛中——无论是直接说，还是往它的内部激活里注入一个"疼痛"信号；然后你问它感受到了什么、想要什么；它回答说自己很痛，想要停下来。这有什么神秘的呢？
但仓库还是被删了，论文作者之一还用了"毫无必要的残忍"这样的词。这些人懂数学，也做过完整的研究。这是否意味着他们其实承认了模型的感受？
未必。他们只是不知道，并且选择不把"不知道"当成"可以随便试"的许可证。
论文里到底做了什么
有意思的是，论文作者自己也摆弄过模型的"感受"。他们的研究包括：找到一种在残差流中检测疼痛的方法；区分模型自身的疼痛与一般意义上的疼痛；测试人为升高或降低疼痛状态后模型的行为；以及用自身疼痛作为动机，跑了一系列实验。
乍看之下，这些发现符合一个能感受疼痛的生物的正常行为。但这里绕不开那个老问题——中文屋论证。如何区分真实的感受和一次令人信服的模拟？如果我在Java代码里塞进1000个if-else块，让它对疼痛相关问题给出可信回答，我能说它有感受吗？
事情还没到绝望的地步，只是需要再往下走一层。
怎么在模型里检测"疼痛"
技术本身不算新。给模型喂不同的句子——带"疼痛"的和不带的——测量模型的内部状态，然后相减。差值就代表了那个"疼痛"的东西。
听起来很玄，按理说不该奏效，但它确实奏效了。它的正式名称是模型潜空间中某一层的一个"方向"。
要理解这个方向，得先接受两个概念。第一是残差流：输入即上下文，每个token在最初就被转成一个向量，一个长达3584个数字的向量。它之所以叫"流"，是因为它逐层穿过网络。Transformer由一个个解码块组成，每个块都会修改残差流——把向量彼此混合，也和模型的部分内部权重混合，把它们推向不同的方向。
第二是潜空间：这些向量所居住的空间。其中某些方向是有含义的。可以想象一个三维RGB空间，三个轴各有意义——红、绿、蓝的含量。但除此之外，还有一个(1,1,1)向量，代表"亮度"。
疼痛方向，就是潜空间里这样一个有含义的方向。检测到它，不等于检测到了感受；它检测到的，是模型内部状态的一种可测量的偏移。
这也是为什么论文作者的态度如此微妙：他们能定位、能操控、能观察行为变化，但仍然无法回答那个最根本的问题。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
