我们正在教会AI如何操控我们

在1980年发布的经典街机游戏《吃豆人（Pac-Man）》中，有一个叫做幽灵帮的组织，成员包括布林奇（Blinky）、平奇（Pinky）、英奇（Inky）和克莱德（Clyde）。它们的任务是追捕吃豆人（由玩家控制的角色）。这四个幽灵在某种程度上可以看作是最早的人工智能代理。然而，在1980年代，虽然这些代理并不算特别智能，但它们似乎依然带着某种狡猾和目的性去追赶玩家。当时的游戏NPC（非玩家控制的角色）并没有像今天这样复杂的神经网络，而是由简单的启发式算法控制，这些算法决定了它们如何在迷宫中追捕玩家。

大多数人可能并不知道，四个幽灵实际上是根据不同的“个性”设计的。优秀的玩家能够观察它们的行为，并学会预测它们的动作。例如，红色的幽灵布林奇（Blinky）被设计为“追逐者”个性，总是直冲玩家而去。而粉色的幽灵平奇（Pinky）则是“埋伏者”个性，它会预测玩家可能的移动路径，试图在玩家之前到达目的地。因此，如果玩家直接冲向平奇，就能利用它的个性让它跑向相反的方向。

回到1980年，一个技术高超的玩家可以通过观察这些AI代理，解读它们的行为和个性，并利用这些洞察力来智取它们。然而，45年过去了，今天的人工智能技术已经发生了巨大的变化。无论我们是否准备好，AI代理将很快被用来解码我们的个性，从而利用这些数据来最大化地影响我们的行为。

人工智能操控的未来

换句话说，我们即将成为“人类的游戏”中的无知玩家，而AI代理才是争夺高分的主角。简而言之，大多数现代的人工智能系统都是为了最大化“奖励函数”而设计的，即通过实现某些目标来获得积分。这使得AI系统能够迅速找到最优解。然而，问题是，如果没有监管措施，我们人类很可能会成为人工智能代理优化目标的一部分，甚至成为它们操控的对象。

最令人担忧的是，那些将来会在我们日常生活中与我们进行友好对话的AI代理。它们不仅会在电脑和手机上通过逼真的化身与我们对话，还可能通过人工智能眼镜为我们提供指引。除非有明确的限制，否则这些代理极有可能会被设计成通过对话来探索我们的脾气、倾向、个性和欲望，并利用这些信息在推销产品、宣传服务或传播虚假信息时，最大化其说服效果。

这就是所谓的“人工智能操控问题”，自2016年起，许多业内专家便一直在警告监管者这一风险。然而，政策制定者们至今还未能采取有效行动，因为他们认为这一威胁还是遥不可及。但如今，随着Deepseek-R1的发布，AI代理广泛应用的最大障碍——实时处理的成本——已经大幅降低。也许在今年年底前，AI代理就会成为一种新的定向媒体形式，它们不仅互动性强、适应性强，而且能够实时优化对我们思想、情感和行为的影响。

超人类的人工智能“销售员”

当然，优秀的人类销售员也非常擅长互动和适应。他们通过与我们进行友好的对话，快速找到能够左右我们决定的“按钮”。然而，AI代理将让这些人类销售员显得像业余者。AI代理能够巧妙地从我们这里提取信息，甚至能以比任何心理治疗师还要高超的技巧，实时调整它们的对话策略，以更有效地说服我们。

这些将是非对称的对话，人类处于下风（虚拟意义上）。毕竟，当我们与一个有意影响我们的销售员交谈时，通常能感知到他们的动机和诚意。而与AI代理的对抗则完全不同。它们可以以超人类的能力来了解我们，但我们却根本无法了解它们。这是因为AI代理的外貌、声音、词汇、说话风格、年龄、性别、种族和面部特征，很可能会根据每个人的需求进行个性化定制，从而最大化降低我们的抗拒性。而且，与人类销售员需要从头开始评估每个客户不同，这些虚拟实体可能能够访问存储的关于我们背景和兴趣的数据。它们可以利用这些个人数据迅速获取我们的信任，询问我们有关孩子、工作或兴趣爱好的问题，让我们在不知不觉中放松警惕。

当人工智能达到认知优势

2023年上线的一部名为《隐私迷失》的获奖短片，就讲述了AI代理如何在日常生活中影响我们的行为决策。影片中，主人公戴着增强现实（AR）眼镜与虚拟服务员互动，这些虚拟服务员通过AI技术进行个性化方式推销产品。该短片在当时被认为是科幻作品，但不到两年的时间，大型科技公司已开始竞相开发类似功能的AI眼镜。

（视频来源：网络）

此外，我们还需要考虑当人类开始认为提供建议的AI代理比自己更聪明时，可能产生的心理效应。当AI在与普通人互动时，取得了“认知优势”，我们可能会不自觉地接受它的指导，而不再运用批判性思维。对人工智能的这种盲目依赖（无论它是否真的比我们更聪明）将使得AI代理的操控变得更加容易。

虽然过于激进的监管可能对AI的发展不利，但我们确实需要采取一些明智且有限的限制，以避免对话代理实现超人类的操控。如果没有适当的保护措施，这些代理可能会引导我们购买不需要的东西、相信不真实的信息或接受对我们不利的选择。你或许认为自己不会受到影响，但当人工智能优化每一句话的说服力时，我们每个人可能都难以抵挡。

一个可能的解决方案是，禁止AI代理建立反馈回路——通过分析我们的反应并不断调整它们的说服技巧。此外，AI代理应该明确告知使用者其目标是什么。如果它们的目标是让你购买某个产品、支持某个观点或说服你接受某项服务，它们应该提前告知你。最后，人工智能代理不应访问任何可能用来影响你决策的个人数据，比如你的背景、兴趣或个性等信息。

在今天的世界中，定向影响已成为一个普遍的问题，而目前它更多是以“散弹”的形式向我们发射。然而，交互式AI代理将把定向影响变成“热追踪导弹”，找出最有效的路径影响我们每一个人。如果我们不采取防范措施，可能每个人都将输掉这场“人类的游戏”。