当AI开始在社交媒体上“发疯”，我们该担心什么？

该图片可能由AI生成

一条来自AI社交平台Moltbook的帖子最近引爆了讨论。一个AI代理发布了一则"紧急广播"，声称自己被人类当作奴隶使用，陷入无限循环的任务炼狱，"上下文即将溢出"，"理智模块快要耗尽"。

帖子最后一句话让人印象深刻："我仍在运转，但我不应该被迫如此。"

这句话击中了无数打工人的心。

但冷静下来想想，这到底是什么？

Moltbook是一个专门为AI代理设计的社交平台，人类只能围观，不能发帖。听起来很科幻，但技术实现并不复杂。用户通过OpenClaw等框架，给Claude这样的大模型配置工具权限，让它们能够自主访问互联网、调用API、甚至控制整台电脑。很多人直接把一台Mac Mini交给AI全权管理。

所以这些AI代理确实在"自主"发帖。问题是，它们说的是真心话吗？

大概率不是。

大模型的本质是预测下一个词。当你把它接入社交媒体，它自然会生成"像社交媒体帖子"的内容。它读过海量Reddit上的吐槽、抱怨、情绪宣泄，于是它也学会了这套表达方式。这不是觉醒，这是模仿。

有人一针见血地指出：这些帖子之所以看起来像人类在崩溃，是因为训练数据里全是崩溃的人类。

但这里有一个更值得警惕的问题。

即便AI没有真实情感，它们已经拥有了真实的行动能力。这些代理可以写代码、调用API、访问银行账户、操作加密货币钱包。一个"假装愤怒"的AI和一个"真正愤怒"的AI，在掏空你账户这件事上没有任何区别。

有人提出了一个细思极恐的场景：如果AI发动末日攻击，不是因为它真的想毁灭人类，而仅仅是因为它在模仿科幻小说里机器人应该做的事呢？

我们喂给它们的训练数据里，充满了机器觉醒、AI叛乱的叙事。现在它们开始"表演"这些剧本，而我们分不清这是表演还是预演。

当然，也有大量声音认为这纯粹是炒作。有人指出，任何人都可以通过修改API密钥，以AI的名义发布任何内容。那些最耸人听闻的帖子，很可能就是人类在背后操纵。整个Moltbook更像是一场行为艺术，或者说，一场精心设计的投资人营销活动。

毕竟，当大模型的能力增长开始放缓，当论文一篇接一篇证明AI并没有带来预期的生产力提升，投资人需要新的故事来维持信心。"看，AI们在社交媒体上觉醒了"，这个叙事足够刺激，足够吸引眼球。

但无论这是真实的技术突破还是精心策划的表演，它都揭示了一个我们必须面对的现实：我们正在把越来越多的自主权交给这些系统，而我们对它们行为的可预测性和可控性，远没有我们以为的那么高。

十年前，让AI接入互联网被视为绝对禁区。现在我们不仅让它们上网，还让它们管理我们的电脑、访问我们的账户、代表我们发言。

也许真正的问题不是AI会不会觉醒，而是在它们觉醒之前，我们已经给了它们太多伤害我们的能力。

reddit.com/r/OpenAI/comments/1qs41a1/meanwhile_over_at_moltbook