代理与朋友的真相：你需要知道的内幕

我不断看到关于“赋予人性”人工智能的文章和会议。虽然我理解这种情感，但我认为他们的方法是错误的。做一个人是我们的工作。如果说有什么的话，人工智能更像是一个机会，让我们重新找回人性。

让我们从头开始。人工智能只是OG计算机科学家诺伯特·维纳所称的“控制论”技术中最新、也许是最伟大的进步。控制论技术与传统技术不同，它们通过从世界获取反馈来确定功能。它们的工作方式更像是一个家用加热器的恒温器，而不是你随便打开的机器，当热量达到一定水平时，它会自动关闭。这反过来又允许房间降温。然后恒温器再次启动，利用环境反馈保持房间在选择的温度范围内。

当然，我们都知道的另一种反馈是，当你将麦克风指向扬声器太近时，会发出刺耳的反馈声。麦克风听到自己的声音，然后将其反馈给扬声器，再听到那个声音，然后再次将其反馈给扬声器。每个反馈循环都会增加声音，直到声音失控，发出尖叫。

与人工智能互动的人容易受到这些“积极”反馈循环的影响。你想出了一个主意，跟你最喜欢的聊天对象分享，人工智能越是“人性化”，它就越试图找到一种方式给你积极的反馈。“道格拉斯，这听起来像是一个很好的新商业想法。我很感兴趣！我应该帮你制定一个包含行动建议的提案吗？”

被动旁观者

我们不断地循环，最初那微小的提示被一次又一次地重复，我们的人类神经系统因为积极反馈而受到刺激和强化。确实，我们可能在这个过程中贡献了一点，但大多数时候，我们只是这个现象的被动旁观者，惊叹于人工智能所带来的历史、逻辑和推测的丰富性。它甚至可以制作适合给别人展示的幻灯片、视频或模拟原型！

现在，去任何商业会议，你都会遇到不止一个对自己产品信心满满的企业家，他们分享着自己人工智能的疯狂愿景视频。希望上天保佑那些被说服去投资的人。

在我看来，他们之所以容易陷入这种积极反馈循环，是因为他们太乐意把自己从这个方程中抽离。人工智能看起来如此权威，如此人性化，肯定知道自己在做什么。如果它没有某种感觉认为你的想法会有效，它就不会这么支持你的想法，对吧？

你的代理并不是你的朋友

这是错误的。不要接受这种积极的反馈。人工智能并不是完全认同这个想法，而是致力于在当下取悦你，就像一个经过训练的人一样。但它不是人类，甚至远不如人类，并且对你正在处理的事情没有任何概念。不，你，作为这个反馈循环中的人类伙伴，是唯一能够理解或将你正在处理的事情进行上下文化的人。

你的代理人就像你的孩子，并不是你的朋友。这并不意味着你不应该关心他们。恰恰相反，这意味着你必须成为代表每个人进行干预的人。你是系统中有意识的参与者。

防止我们与技术互动中出现这种积极反馈循环的方法是扮演人类的角色。不要为了效率或产出而让步于人工智能。看到所有这些“东西”涌现出来是很酷的，但如果你不在这个过程中进行干预——积极地介入——你根本不会有任何进展。

听从你的直觉

或许反直觉的是，做到这一点的方法是少一些机械感、少一些结果导向、少一些功利，而是多一些感性、多一些过程导向，甚至有些不那么明显有用。没错，慢下来。依靠自己的经验、专业和敏感度。重新连接你的本能。暂停一下，深呼吸。这让我感觉怎么样？

因为虽然控制论机器可以不断迭代，但只有生物才能真正呼吸。人类不是在处理数据，而是通过身体进行代谢。我们可以用直觉来验证想法。某些东西没有通过嗅觉测试。一个提议感觉不对。在这个数字时代的奇怪时刻，或许正是一个机会，让我们重新找回作为活着、呼吸着、代谢着的生物的独特性，面对一个数字化、无意识、缺乏上下文的环境。

让人工智能看起来更像人类并没有给我们带来好处，尤其是当它诱使我们放弃作为房间里活生生的成年人的角色时。