研究认为AI可以在你了解自己的意图之前预测并出售它

人工智能助手可能很快就会在早期预测和塑造我们的决策方面发挥关键作用，并将这些新出现的"意图"实时出售给准备满足我们需求的公司--有时甚至在我们有意识地做出决定之前。剑桥大学的人工智能伦理学家强调了这一被称为"意图经济"的概念。 他们警告说，从购买电影票到投票，数字意向信号将成为一个利润丰厚的新兴市场，而且可能令人不安。

剑桥大学勒弗胡尔姆未来智能中心（LCFI）的专家认为，生成式人工智能的快速发展和我们对聊天机器人的日益依赖，标志着"说服性技术"新时代的开始。 他们指出，这些发展与大型科技公司最近的战略举措相吻合，暗示了这一新兴领域日益增长的潜力。

"拟人化"人工智能代理，从聊天机器人助手到数字家教和女朋友，都将获得大量私密的心理和行为数据，这些数据通常是通过非正式的口语对话收集的。

研究人员说，这种人工智能将把对我们在线习惯的了解与一种不可思议的能力结合起来，以我们认为舒适的方式来适应我们--模仿个性和预测期望的反应--从而建立信任和理解水平，从而实现工业规模的社会操纵。

LCFI访问学者雅克布·乔杜里（Yaqub Chaudhary）博士说："人们正在花费巨大的资源，将人工智能助手定位在生活的各个领域，这就应该提出一个问题，即这些所谓的助手是为了谁的利益和目的而设计的。人们在交谈时说了什么，他们是如何说的，以及由此可以实时做出的推断类型，这些都比仅仅记录在线互动要亲密得多。我们要提醒的是，人工智能工具已经被开发出来，以诱导、推断、收集、记录、理解、预测，并最终操纵和商品化人类的计划和目的。"

剑桥 LCFI 的技术历史学家乔尼·佩恩（Jonnie Penn）博士说："几十年来，注意力一直是互联网的货币。 通过 Facebook 和 Instagram 等社交媒体平台分享你的注意力推动了网络经济的发展。除非受到监管，否则意图经济将把你的动机视为新货币。 对于那些瞄准、引导和出售人类意图的人来说，这将是一场淘金热。在我们成为其意外后果的受害者之前，我们应该开始考虑这样一个市场可能会对人类的愿望产生的影响，包括自由公正的选举、新闻自由和公平的市场竞争。"

在一篇新的《哈佛数据科学评论》（Harvard Data Science Review）论文中，佩恩和乔杜里写道，意图经济将是"及时绘制"的注意力经济：剖析用户的注意力和交流风格如何与行为模式以及我们最终做出的选择相联系。

乔杜里说："虽然有些意图稍纵即逝，但对持续存在的意图进行分类和定位将为广告商带来巨大利润。"

研究人员写道，在意图经济中，大型语言模型（LLMs）可用于以低成本定位用户的语速、政治、词汇、年龄、性别、在线历史，甚至对奉承和讨好的偏好。

这种信息收集将与中介竞价网络相连接，以最大限度地提高实现特定目标的可能性，例如推销电影之旅（"你提到感觉工作过度，我可以为你预订我们之前谈过的那张电影票吗？）

佩恩和乔杜里认为，这可能包括引导对话为特定平台、广告商、企业甚至政治组织服务。研究人员表示，意图经济目前只是科技行业的一个"愿望"，但他们通过已发表的研究报告和几家主要科技公司的暗示，追踪到了这一趋势的早期迹象。

其中包括在 2023 年 OpenAI 的一篇博文中公开征集"能够表达人类意图的数据......跨越任何语言、主题和格式"，而 Shopify（OpenAI 的合作伙伴）的产品总监则在同年的一次会议上谈到聊天机器人将"明确获取用户意图"。

NVIDIA 公司的首席执行官曾公开表示要利用 LLMs 来揣测意图和欲望，而 Meta 公司早在 2021 年就发布了"Intentonomy"研究，这是一个用于理解人类意图的数据集。

2024 年，苹果公司推出了新的"App Intents"开发者框架，用于将应用程序连接到 Siri（苹果公司的语音控制个人助理），其中包括"预测某人未来可能采取的行动"和"使用您（开发者）提供的预测向某人建议未来的应用程序意图"的协议。

乔杜里说："Meta公司的CICERO等人工智能代理据说可以在外交游戏中达到人类的水平，而外交游戏依赖于推断和预测意图，并使用有说服力的对话来推进自己的立场。"

"这些公司已经在贩卖我们的注意力。 为了获得商业优势，合乎逻辑的下一步就是利用他们正在明确开发的技术来预测我们的意图，在我们还没有完全理解我们的欲望是什么之前就把我们的欲望卖出去。"

佩恩指出，这些发展不一定是坏事，但有可能具有破坏性。他说："公众对即将发生的事情的认识是确保我们不会走上错误道路的关键。"

编译自/scitechdaily

DOI: 10.1162/99608f92.21e6bbaa