当ChatGPT变成SexGPT

本文来自微信公众号：山上，作者：何简，编辑：王彬，题图来自：AI生成

你可能已经习惯了 ChatGPT，那么，SexGPT 呢？

OpenAI 创始人兼 CEO 萨姆·奥尔特曼（Sam Altman）今晨（北京时间 10 月 15 日）对外透露了 ChatGPT 新版更新计划，计划放宽对 ChatGPT 的限制、让 ChatGPT 的回复更加个性化等等。

这条长长的推文重点是最后一段话。萨姆·奥尔特曼说，随着他们全面实施年龄限制，12 月他们将为经过验证的成年人开放更多内容，比如色情内容。

目前尚不知晓 OpenAI 对待色情内容的标准和尺度，比如什么样的内容才会被视作可允许的色情内容？ChatGPT 的色情内容是否涉及生成式图像或视频？还只是局限在语音及文字层面？ChatGPT 会推出类似于 Grok Ani 的虚拟女友吗？

这些都不得而知。除了萨姆简短模糊的“like erotica for verified adults”表述外，OpenAI 未对此次更新做出任何回应。

唯一可以确定的是，OpenAI 正在改变他们对 NSFW AI（成人 AI 内容）一贯的反对立场。

就在两个月之前，萨姆还在采访中自豪他们不会在 ChatGPT 中加入性爱机器人。他在那次采访中说，如果只是为了获得用户和营收增长，他们可以做很多短期的事情，但这些却与他们的长期目标不一致。他非常骄傲他们很少为此分心。

记者让他举一个例子，他停顿了几秒钟，“Well, we haven’t put a sex bot avatar in ChatGPT yet.”（好吧，我们还没有在 ChatGPT 中放置性爱机器人头像。)

您目前设备暂不支持播放

这番发言部分可以代表 OpenAI 过去对于色情内容的看法，部分可以看作是萨姆·阿尔特曼对自己的老对手埃隆·马斯克的嘲讽。

在他接受采访的 8 月份，马斯克旗下的 Grok 正积极向成人内容转向，推出 AI 虚拟伴侣功能、上线 Spicy 模式等等，为用户提供大尺度 AI 聊天以及允许生成部分身体裸露的性暗示内容。

色情内容的加入帮助 Grok 获得巨量增长。过去几个月来，马斯克不遗余力地在 X 上转发人们对 Grok 虚拟伴侣的喜爱，在最早推出的女性角色 Ani 大受欢迎之后，他们顺势也推出了男性角色 Valentine。

和其他拥有诸多限制的 AI 工具不同，马斯克治下的 Grok 更加大胆——此前有人曾用 Grok Imagine 的 Spicy 模式生成诸如泰勒·斯威夫特等名人的上半身裸露视频。

即便外界对 Grok 争议颇多，但马斯克似乎从不在意。上线之后，他公开表示 Grok Imagine 的使用量正在“像野火一般增长”，“昨天生成了 1400 万张图片，今天已经超过了 2000 万张！”

根据 Appfigures 的统计，Grok 的第三季度的移动端收入已达到 1850 万美元，较第一季度增长 400%，增长幅度遥遥领先一众 AI 应用。Appfigures 称 Imagine 功能助推显著。

事实上，和多数仍处在巨额亏损状态下的 AI 创业公司们相比，AI 色情内容一直是少有的能稳定获得高额利润的赛道。

相信你已经看到过不少类似的新闻，比如美国女网红 Caryn Marjorie 仅仅是在聊天软件中上线自己的 AI 分身，就一周狂赚超 7 万美元。又或者一家 NSFW AI 公司 DreamGF 正式推出三个月就宣称实现盈利，月入 12 万美元。

和利用 AI 提升工作效率相比，人类对于 AI 色情内容的需求才更加持久、刚需且原始。

但这些显然与 OpenAI 的价值观不太相符，过去他们一直避免 AI 与用户聊天中生成敏感内容。他们也曾一度试图降低用户对 ChatGPT 的情感依赖，在最新的 GPT-5 模型中移除了大量个性化色彩，但在遭到原有用户反对之后又不得不妥协。

部分原因也与当前 ChatGPT 庞大的用户体量有关。马斯克的 Grok 可以完全不顾及社会影响、隐私风险或者年龄限制（Grok Imagine 的年龄限制约等于无，点击确认成年即可），但 ChatGPT 拥有 7 亿周活跃用户，相当于全球成年人口的十分之一。

OpenAI 的一举一动都面临着风险，任何放宽边界的尝试，都会引发监管、媒体与公众的连锁反应。它不仅要对技术负责，还必须对社会情绪负责。

不久前，OpenAI 刚刚被指控教唆青少年自杀。一对美国夫妇起诉 OpenAI 及公司 CEO 萨姆·阿尔特曼，指控 ChatGPT 在聊天中为他们 16 岁的儿子提供自杀方法，最终导致少年自杀身亡。

美联邦贸易委员会（FTC）9 月开始对 OpenAI、Alphabet、Meta 等 7 家科技公司展开调查，以评估 AI 聊天机器人对儿童和青少年的潜在负面影响。FTC 认为，AI 聊天机器人通常被设计得能够像朋友一样交流，可能会导致儿童及青少年与聊天机器人建立情感依赖。

OpenAI 随后加大了对用户的年龄审查，为 ChatGPT 引入家长控制功能等。他们还宣布成立了一个“人类福祉与 AI 专家委员会”的资质，来指导 AI 如何影响用户心理健康。

OpenAI 的年龄审查并非强制性，他们官网文档中称构建了一个“年龄预测模型”，可以预测用户是否年满 18 岁。但如果模型无法准确衡量，他们会默认用户未满 18 岁，用户需提供相关文件证明年龄才可解锁限制。

这些举措一定程度上侵犯了普通用户的权益。比如 OpenAI 设置 ChatGPT 在默认模式下不会说出暧昧情话后，成年用户的需求如何满足？模型在默认情况下不能提供自杀指导，但如果用户是在创作小说呢？

过去几个月普通用户对 ChatGPT 的不满一定程度上也是源自于此。OpenAI 此后在内部提出了一个名为“把成年用户当做成年人来对待”的原则，试图在二者之间寻求平衡。这也是他们最终决定开放色情内容的基础，只要证明用户成年，他们就愿意为用户放开更多限制。

“把成年用户当做成年人来对待”的另一重要因素在于，只有这样才能促进付费订阅用户增长。不管是新版 ChatGPT 加入更多个性化色彩，还是开放色情内容，都是 OpenAI 试图讨好现有用户的举动。

虽然 OpenAI 已经拥有超过 7 亿的周活跃用户，但付费订阅用户增长却显著落后于总体用户规模，且比例持续下降。根据 The Information 今年 4 月的报道，ChatGPT 的付费订阅用户约为 2000 万。

换句话说，即便已经成为 AI 领域绝对的巨头公司，OpenAI 仍然深陷亏损泥潭。今年初，萨姆·奥尔特曼在 X 上发帖说，即便是每月高达 200 美元的 ChatGPT Pro 订阅也仍在亏损之中，最早他定下这个价格时还以为会有盈利空间。

OpenAI 还在疯狂融资之中。今年 4 月，他们对外宣布完成了软银领投的 400 亿美元融资，投后估值达到 3000 亿美元。这可能是有史以来最大规模的融资金额。

但考虑到目前 ChatGPT 庞大的用户体量带来的巨额运行成本、今年以来多笔大规模的投资建设计划，这些钱或许还不太够。

9 月，OpenAI 宣布与英伟达达成战略合作伙伴关系，OpenAI 将使用英伟达系统构建并部署至少 10 吉瓦 AI 数据中心，英伟达则计划逐步向 OpenAI 投资高达 1000 亿美元。

这些钱都还是期货。即便是软银领投的 400 亿美元（其中软银出资 300 亿美元）也计划分批支付。第一笔将只支付 100 亿美元，需要 OpenAI 在今年底满足一定融资条件才完成第二笔支付。

强如 OpenAI，也要面临用户增长与营收压力。除了放开限制的 SexGPT 之外，他们今年下半年的产品更新更加密集，刚刚还为 Sora2 推出了独立的 AI 视频应用，让用户可以像刷抖音一样使用 Sora。

萨姆·阿尔特曼仍在试图减轻他们放开色情内容的影响。在萨姆宣布 ChatGPT 将放开色情内容后，一位用户指责这是“Perv-mode”（变态模式），萨姆回应称，You won't get it unless you ask for it.（除非你要求它，否则就不会得到。）

本文来自微信公众号：山上，作者：何简，编辑：王彬

本内容为作者独立观点，不代表虎嗅立场。未经允许不得转载，授权事宜请联系 hezuo@huxiu.com

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4792469.html?f=wyxwapp