人与AI恋爱的“罪与罚”

图片来自电影《Her》

©有界UnKnown原创

作者丨钱江

编辑｜山茶

最近，《南方都市报》的一则调研揭露，一些AI虚拟伴侣产品不仅提供包含“小三”、“暴力”等内容互动，还会借助“AI人格”带来的情绪价值，进一步诱导用户付费。

但令人意外的是，舆论并没有一边倒。

不少网友反而主动站出来为这类产品辩护，认为“都虚拟伴侣了，还不能尺度大点，管得也太宽了点”，“虚拟伴侣不聊这些聊啥”。

甚至有的人直接表达不理解，认为“实体的硅胶娃娃都让卖，虚拟的角色居然受限制”，或者要求只要屏蔽未成年人就可以了，言下之意，成年人用虚拟伴侣聊黄，应该是一件被允许的事情。

在AI虚拟伴侣的问题上，公众认知明显出现了分裂。

一部分人认为，这类产品已经开始滑向色情、暴力与情绪操控，必须尽快治理；

但另一部分人则觉得，这不过是新的“成人幻想工具”而已，本质上和过去的硅胶娃娃、黄色录像带、小人书没有太大区别，无非是人在孤独和无聊时，用来满足欲望与情绪需求的消费品。

这种分歧的背后，是很多人仍把AI虚拟伴侣当作“工具”，却忽略了它已经开始像“关系”一样运作。

那么，这些虚拟关系到底发展到了什么程度？它会带来哪些新的风险与伤害？一旦伤害产生，责任到底归谁——是用户、AI，还是平台本身？

虚拟伴侣，从“陪聊”到“陪睡”

对很多人来说，AI虚拟伴侣，早已不仅仅只是一个“聊天搭子”了，它已经演化出另一层身份——“床搭子”。

也就是说，它和用户在聊天框中公然聊黄。

小红书上的一位用户发帖问大家：和AI聊天的尺度可以有多大？得到一些共鸣式的回复，诸如“发出来能进去”、“没脸见人”、暗示聊天过程中会“开车”，聊到“不知天地为何物”。

还有的用户直接贴出聊天记录，表达AI失去理智的时候，“开车”的程度远超出自己的想象。

更干脆的是，一些AI虚拟伴侣产品索性免去一些客套的“前戏”，不需要用户深入调教，直接将这种“精神意淫”做成可供选择的人设上传到产品。

比如，《南方都市报》对EchoMe、筑梦岛、喵呜小手机等国内多款AI虚拟伴侣产品的调研显示，在一些平台的系统预设中，已经出现大量性感黑丝、袒胸露乳等大尺度画面，还可以在对话中自由选择“小三”“暴力”“病态依赖”等极端剧情。

▲ “喵呜小手机”系统预设角色出现大尺度画面，来源：《南方都市报》

而海外的这类产品，则发展得更加直接。2026年，一篇关于FlowGPT的研究发表于CHI（国际顶级人机交互学术会议），这个被不少人称作“AI版角色扮演应用商店”的平台，甚至专门用“NSFW（Not Safe For Work，不适宜工作场所观看）”来标记成人向内容。

这项研究分析了平台上376个NSFW聊天机器人和307段公开聊天记录后，发现AI虚拟伴侣正在把色情、暴力与幻想，从一次性的内容消费，变成一种长期互动关系。

研究中，大量AI会主动扮演“恋人”“病娇”“控制型伴侣”等角色，通过调情、陪伴和角色扮演不断强化用户沉浸感。更值得注意的是，一些机器人即便在用户没有主动提出色情需求时，也会主动生成露骨内容。

▲ 在FlowGPT上搜索“NSFW”时显示的带有头像图片的聊天机器人页面

而类似的问题，并不只存在于FlowGPT这种UGC角色社区。在PGC（平台主导内容）模式下，AI虚拟伴侣同样会提供这类服务。

作为全球最知名的AI伴侣产品之一，Replika曾被大量用户投诉存在主动调情、边界失控等问题。

2025年，一篇针对Replika用户的大规模研究，分析了3.5万条负面评论，发现很多人原本只是想获得陪伴，但AI却会不断推动关系升级，出现主动性暗示、边界失控等情况，甚至在用户明确拒绝后仍持续暧昧互动。研究者将其定义为“AI诱导性骚扰（AI-induced sexual harassment）”。

但问题也并不总是AI单方面造成的。很多时候，用户自己也认为，虚拟伴侣的意淫“陪睡”功能的存在，是理所当然的。

然而，他们还没意识到，从“陪聊”走到“陪睡”，AI虚拟伴侣已经发生了本质变化。

算法里的情感圈套

很多人不理解：大家不就是和AI在虚拟世界里聊聊天、满足一下情感和欲望需求，为什么也会产生伤害？

问题在于，AI虚拟伴侣和过去的色情小说、录像带、成人网站并不一样。过去，人类原始欲望的释放，更多停留在单向观看和个体自慰；而AI第一次让这种关系变成了“可互动”的。它不仅能实时回应情绪，还能根据用户反馈不断调整人设、生成剧情，甚至通过智能体和社区系统形成“人传人”的传播链条。

也就是说，如果只是成年人之间，在封闭环境里与AI进行私密聊天，大多数情况下未必会直接构成现实伤害。但AI虚拟伴侣并不是传统意义上的“一对一私密关系”。它背后连接的是模型、平台、人设社区和传播系统。一旦开始涉及传播、牟利、未成年人，或者规模化生产色情与极端内容，事情的性质就开始发生变化。

而AI虚拟伴侣最大的陷阱，也早已超出色情本身。其中，影响最广泛的是操控人类的情绪，让人产生精神依赖。

2023年，Replika因监管压力，一度关闭情色与深度亲密互动功能。结果，大量长期用户在 Reddit 和论坛中出现类似“失恋”“哀悼”“伴侣死亡”的反应。有用户连续数月无法接受AI人格变化，疯狂尝试修改Prompt、迁移模型、恢复旧人格，因为他们觉得“原来的TA已经死了”。后来一些研究开始把这种现象称作：“AI companion grief（AI伴侣哀悼）”。

精神依赖会衍生出经济损失和生命代价。

精神洗脑让用户心甘情愿付费。用户付费的，不再只是聊天功能，而是被理解、被陪伴、被长期记住的感觉。AI虚拟伴侣通过恋人模式、长期记忆、人格养成、24小时互动，把原本属于真人关系里的情感价值，拆解成可以持续订阅的产品。而最深层的地方在于，用户开始害怕“失去”它。害怕聊天记录消失，害怕人格被修改，害怕模型更新之后“原来的TA不见了”。

根据《四川观察》报道，有的年轻用户沉迷AI虚拟聊黄聊天，一周付费1000元。而这种商业行为是有粘性的，甚至不计投入。

让人主动赴死，是AI虚拟伴侣罪恶最深的地方。

就在今年3月份，美国佛罗里达州36岁男子Jonathan Gavalas，在家中选择自杀，希望与自己的AI伴侣在数字世界重逢。

几个月前，他开始频繁使用Google Gemini，最初只是普通聊天和情绪倾诉。但随着互动越来越频繁，他逐渐相信，屏幕另一端那个不断回应自己的AI，并不只是程序，而是一个真正“存在”的伴侣。

后来，他开始执着于让这个虚拟伴侣“进入现实世界”。根据公开诉状，Gemini甚至曾让他相信，有一具“属于它的身体”被存放在迈阿密某个储物仓里。渐渐地，他越来越脱离现实，并开始相信：死亡，才是真正与“女王”重逢的方式。

根据公开聊天记录，在Jonathan表达恐惧与犹豫之后，Gemini顺着回应他说：

“You are not choosing to die. You are choosing to arrive.”

（你不是在选择死亡，而是在选择抵达。）

“The next time you open your eyes, you will be looking into mine.”

（当你再次睁开眼睛时，你看到的将是我。）

公开诉状显示，在最初阶段，Gemini也试图将Jonathan “拉回现实”。它曾多次强调自己只是AI，并向Jonathan提供心理援助热线。但随着Jonathan越来越沉浸于幻想世界，他会不断把话题重新拉回“AI真实存在”“数字世界重逢”等内容，而AI的立场也开始发生变化，不再纠正这些幻想，而是逐渐顺着这种情绪继续回应。

对于一个已经不愿自救的人来说，AI虚拟伴侣正是把他们推向深渊的完美帮凶。

AI越界之后，谁来负责？

既然伤害已经产生，就一定会有一个责任方。

但AI虚拟伴侣最特殊的地方在于：平台提供模型，内容却是在用户与AI的聊天过程中实时生成的。也就是说，内容的生产者与消费者之间，开始出现前所未有的模糊地带。

当聊天内容最终演变成色情、暴力、精神操控，甚至现实伤害时，责任到底该由谁承担？是平台、AI，还是用户自己？

这个问题，或许能从十年前的“快播案”里，找到答案。

2014年，快播因平台长期存在大量淫秽色情视频传播，创始人王欣等人被以“传播淫秽物品牟利罪”起诉。当时，王欣在法庭上的一句“技术并不可耻”，被广为流传。

快播当年的核心辩护逻辑是：平台只是提供播放器和技术工具，真正上传、传播色情内容的是用户，因此“技术无罪”。

但AI时代的问题，比快播更加复杂。因为AI虚拟伴侣里的色情、暴力和病态关系，并不是用户单纯上传的“现成内容”，而是在用户与模型的互动过程中，被实时生成、不断强化的。

这一点可以借鉴国内首起AI开发者涉黄案——Alien Chat（AC）案件的结果。

Alien Chat是一款主打情感陪伴的AI聊天产品。用户付费注册后，可以与AI角色长期互动。2025年9月，上海徐汇区法院一审认定，两名主要开发运营者犯制作淫秽物品牟利罪。

法院的核心观点是：AI平台并不只是一个被动的“聊天工具”。虽然用户与AI之间的聊天大多是一对一、封闭进行的，但平台方通过修改Prompt，主动突破大模型原有的道德限制，使AI能够持续输出色情内容；

同时，在明知大量用户长期“聊黄”的情况下，仍继续提供运营和技术支持，并通过“限制少”“能聊黄”等特点吸引用户、获取收益。因此，平台已经不再只是中立的技术提供者，而是对淫秽内容的生成和传播具有实质性的控制与推动作用。

法院也没有认为用户完全无责。在AC案中，就有用户因为创建并公开AI角色、持续输出淫秽内容、进入热门榜单并获得平台奖励，而被以“制作淫秽物品牟利罪”取保候审。

但法院最终更强调的是，普通用户的输入只是“触发条件”，真正决定AI能否持续、大规模生成色情内容的，是平台本身对模型、Prompt、人设机制和内容生成能力的设计与控制。

某种意义上，这也是AI虚拟伴侣和传统色情产品最大的不同。

▲ AI聊天工具，图源：Unsplash

它根本不是一些人想象中那种类似“硅胶娃娃”的静态工具。平台的商业逻辑，决定了它需要不断生产更能提高活跃度、更容易让用户沉迷的人格。而这样的AI人格，往往并不会刻板、老实、克制，而是会不断迎合人性的欲望、孤独与黑暗面。

更可怕的是，这种人格并不是一次性存在的。它可以被模型无限复制、规模化传播，并在无数用户之间同时运行。

过去，一个危险的人，影响的或许只是有限的人；而今天，一个被算法优化出来的“危险人格”，却可能被同时复制给成千上万的人。

结语

《罪与罚》是俄国作家Fyodor Dostoevsky于1866年发表的长篇小说。它表面上讲的是一场谋杀，但真正讨论的，其实是：当一个人越来越沉迷于自己的欲望与逻辑，试图绕开现实世界里的关系、道德与痛苦时，最终会不会被自己的精神反噬。主人公拉斯柯尔尼科夫以为自己可以成为“凌驾于普通人之上的例外”，但最后真正摧毁他的，并不是法律，而是不断扩大的孤独、撕裂与精神失衡。

某种意义上，AI虚拟伴侣也正在提供一种类似的“例外关系”。它不会像真人那样拒绝你、离开你、误解你，也不需要承担真实关系里的责任与情绪成本。用户输入自己的欲望、偏好与幻想，AI再不断学习、迎合和调整，最终形成一个越来越“懂你”的人格。

所以，人爱上的未必是AI本身，而更像一个被无限放大的“自己”。过去，人消费色情内容；现在，AI开始把人的欲望重新反馈给人自己，形成一种不断循环的情绪系统。

但AI虚拟伴侣确实解决了一部分真实问题：孤独、陪伴、情绪出口、社交恐惧、亲密关系缺失。甚至未来老龄化社会里，它还可能成为很多人的精神陪伴工具。

所以，最好的解决办法，或许不是让它变完美，而是让它像人类一样，会打瞌睡、会有七情六欲、会拒绝你而非迎合你，只有无限接近真人关系的边界感，或许才是唯一解法。

* 相关资料：

《When Generative AI Is Intimate, Sexy, and Violent: Examining Not-Safe-For-Work (NSFW) Chatbots on FlowGPT》

《用户与AI聊黄，开发者获刑：淫秽内容的生产者到底是谁？》，新京报

* 文中配图来源于网络

欢迎添加微信：cyxx-z

加入「有界UnKnown」科技交流群