经济学人丨人工智能代理人：谁的利器，谁的责任？

商业 | 熊彼特

人与人工智能代理人之间的关系，亟待深入研究。

所以，在后的将要在前，在前的将要在后。人工智能领域的竞争异常激烈，任何一家公司被宣布为赢家，都预示着它即将被超越——反之亦然。许多人曾认为Meta在人工智能方面的投资是浪费金钱的虚荣之举。然而，同样的投资者现在却说，该公司推出的全新个人智能助手Muse即将颠覆商业乃至整个世界。Muse目前在苹果应用商店的排行榜上名列前茅。Meta的股价在过去一个月里上涨了约三分之一。

聊天机器人常被比作实习生。Muse更像是一位受雇的秘书。用户会发现两者之间存在巨大差异：从有人朗读列车时刻表到帮用户预订车票；从仔细考虑自身权益到提交索赔；从比较手机资费到克服公司为阻止客户转换而设置的重重障碍。商品和服务市场可以被全面且持续地调查。没有表格太长，也没有索赔太小。

Muse能解决哪些千禧年数学难题？目前尚不清楚。但如果你以正确的方式“操控”Muse，或许就能获得一份更便宜的汽车保险。Muse的代理人会毁灭世界吗？Meta的老板马克·扎克伯格和白宫一样，对人工智能的安全性问题不以为然。尽管Muse目前还不是最受欢迎的人工智能产品，但它无疑是第一个面向大众市场的人工智能产品，专为Facebook Marketplace上的普通用户而设计——对他们而言，隐私无关紧要，生存风险是无稽之谈，经济中的一切要么是便宜货，要么是骗局。

市场情绪与二月份类似。当时，随着模型编写代码的能力超越人类的趋势日益明显，人们不禁要问：如果每个人都拥有硅谷工程师的编程能力，会发生什么？软件公司的股票遭到无差别抛售（许多股票后来已经回升）。而如今，人们关注的问题则变成了：如果每个人都只有僧侣般的耐心，会发生什么？

国家将难以应对日益增强的公民自主性。当识别和主张富裕国家赋予公民的所有权利和福利的成本下降时，政府最终将不得不投入更多资金。这对法院而言是一个棘手的问题，因为法院已经充斥着大量人工智能撰写的诉讼文件。法治要求公民能够行使自身权利，但也要求法院保持开放，法官必须由人来担任。令人担忧的是，大多数解决这一三难困境的方案要么需要投入更多资金，要么需要限制公民的权利。

企业因无知和惰性而获得的利润越多，其遭受的损失就越大。经济学家长期以来一直在思考，为什么资金宁愿闲置在银行账户里，而不是投资货币市场基金赚取更高的利息？又或者，为什么保险客户宁愿承受更高的保费惩罚，也不愿轻易更换保险公司？人们常说西方社会存在一种“赔偿文化”，但实际上，大量的赔偿金无人认领。在欧洲，航班延误和取消的潜在赔偿金只有大约一半最终支付出去——而且往往是在一些公司从中抽取利润的情况下才得以支付。

国家和企业可能会试图利用自身的技术重新制造摩擦。试想一下，智能体之间互相拖延、无视对方、在日益激烈的电子邮件往来中互相追逐。（讽刺的是，这种防御机制会让互联网对人类而言更加难以忍受。）在线商务平台Shopify已经接纳了Muse智能体，而亚马逊则禁止了它们。如果人工智能的拥护者所言属实，那么亚马逊很快就会付出高昂的代价，因为智能体将承担相当一部分商业活动，而且它们将更难被识别：“勾选方框以证明你是人类”会变成“点击黄色自行车”，最终变成“上传一张与今日报纸的合影”。

摆脱了繁琐的行政工作，消费者或许会向他们的新助手提出一个更根本的问题：人与Muse之间的关系是什么？对于这种人机结合的看法不一。助手用户很可能将他们的新助手视为普通的科技产品，无需承担全部责任。当然，在世人眼中，助手和它的管理者几乎无法区分。而模型开发者则肯定认为，大部分责任在于用户。

设想以下三种情况：约翰指示他的智能体在网上发布搞笑帖子，结果却诽谤了他人；苏珊让她的智能体洽谈一些商品的销售，但由于智能体喜欢夸大其词，导致商品描述不实；保罗与智能体聊天时，为他年幼的儿子订购了一个风筝，结果儿子收到的却是一把刀，还被刀割伤了。你可能会说，这是粗心大意的人操作了粗心大意的模型造成的。但是，通常用来归咎责任的概念在人工智能的本质面前显得苍白无力。人工智能这种普遍而神秘的东西所造成的危害，究竟意味着什么？如果模型制造者被指责，那么它的代码是由智能体编写的，而且很可能是由其他实验室设计的，这一点重要吗？

自主性和责任之间的张力是人工智能领域最根本的问题之一。以往的讨论大多停留在抽象层面，主要集中在生存风险和人工智能意识等方面。如今，一百万个拥有自主意识的公民将被释放到经济活动中，他们将亲身体验这个问题。如果他们对结果不满意，他们也知道如何申诉。■