自主软件的挑战：世界为何尚未准备好？

观点 代理时代仍然是一个虚幻的世界。软件代理，作为生成性人工智能服务的下一个理论前沿，无法逃脱其矛盾、法律模糊性和竞争压力的束缚。并不是每个人，尤其是竞争企业，都希望有一个机器人代表客户……

软件代理，正如开发者西蒙·威利森所定义的，是“[AI]模型在循环中使用工具。”将大型语言模型（LLM）连接到浏览器中，也许如果没有因错误、安全控制或缺乏上下文数据而出轨，代理系统可以执行在网站上购买特定商品或预订航空旅行的请求。

谷歌云零售和消费行业市场负责人卡皮尔·达比在上个月的一篇博客文章中写道：“零售世界正在转向代理商业，AI代理为人们和企业行动，创造更灵活的购物体验。”

达比的观点反映了对能代表人们行动的软件的关注，这种软件可以执行源自用户提示或查询的指令。

咨询公司麦肯锡热切地表示：“代理商业——由代表我们行动的AI代理驱动的购物——代表了市场的重大转变。它使我们朝着一个AI预测消费者需求、导航购物选项、谈判交易并执行交易的世界迈进，所有这些都与人类意图保持一致，但通过推理模型启用的多步骤行动链独立行动。”

暂且不提麦肯锡在最近一本书中被指责提供的建议“归结为主要的成本削减，包括裁员和维护减少，以提高短期利润，从而提升公司的股价和雇佣它的高管的财富，以牺牲工人和安全为代价。”

相反，关注代理商业的过度简化问题及其对相关公司的影响，对那些希望部署软件代理的人，对目前从事代理将取代的工作的人员，对整个社会，以及对法律系统所带来的问题。

本周早些时候，亚马逊要求Perplexity停止允许其Comet浏览器在这家电子商务巨头的网站上进行自动购买。这可以被视为副驾驶领域的一个警示，但实际上，这场争吵实际上只是法律斗争的延续，这些斗争挑战了人工智能公司在未获许可或补偿的情况下获取互联网数据并以代币形式出售的权利。

Perplexity的论点值得进一步审视。在其博客文章中指责亚马逊的霸凌行为时，该公司表示：“今天，亚马逊宣布它不相信你雇佣劳动力的权利，也不相信你有权雇佣助手或员工代表你行事。”

这并不是亚马逊所说的，而且，一家将其服务视为劳动力替代品的公司提出这样的主张，确实有些讽刺。

Perplexity主张，人工智能和人类劳动应该被视为同等的存在。“[W]随着代理人工智能的兴起，软件也正在成为劳动：一个助手，一个员工，一个代理，”该公司在博客文章中宣称。

确实，目前的生成性人工智能模型通过了图灵测试，至少在最初设想的情况下是这样——因此有人呼吁进行更相关的“模仿游戏”。但软件与人类劳动并不相同。

软件代理和人类行为是不可互换的。在在线互动中，代理系统与人类浏览网页的方式存在技术差异，这导致了成本上的差异。软件可能以不同于人类操作浏览的速度消耗计算和网络资源，而在这个互动过程中交换的数据，其价值可能也不同。参与此过程的第三方希望知道他们是在为机器还是人类提供广告或收集分析数据。

然后是法律差异。“出版商和公司没有权利根据用户选择的人工智能来歧视用户，”Perplexity指出。

但组织确实有权为其服务设定使用条款，在需要互操作性的监管场景之外。微软没有义务确保 Windows 可以运行 macOS 应用程序。我可能希望用 Python 脚本抓取 LinkedIn 的所有数据，并分析社交网络的连接，但 LinkedIn 没有义务允许这样做。依赖广告收入的出版商不必迎合阻止广告的访客。票贩子可能希望自动化购买音乐会门票以转售，但票务供应商没有义务合作。

拥有安装和使用软件的自由是重要的。但这并不意味着这个软件的使用会被所有地方接受，或者应该被接受。

亚马逊让 Perplexity 的机器人保持距离的举动将在其他地方重演，因为如今科技行业的现有企业大多在把关和避免竞争。亚马逊表示，他们担心 Comet 的自动购买会影响客户体验。但这也是控制的问题，涉及到掌控客户关系和获取交易数据。

这种趋势正是我们走到今天的原因。像亚马逊、苹果、谷歌、微软和 Meta 这样的公司在各自的市场中或多或少地消除了竞争，而监管干预几乎没有起到作用。因此，一旦风险投资家和企业家意识到具有自然语言接口的 AI 模型可能使新进入者打破现有企业的中介地位，他们便开始向 AI 业务投入资金，希望能够取代谷歌及其同行。

AI 代理也可能带来责任问题——它们并不总是能正确执行任务。

“问题在于，AI 提供者可能不想承担无法量化的风险，也无法预见 AI 用户将如何使用他们的 AI，”伦敦玛丽女王大学法学院的 Garry Gabison 和加州大学旧金山分校的 Patrick Xian 在一篇最近的法律论文中写道，该论文探讨了代理责任问题。

作者们认为，AI 提供者和用户需要通过合同条款来应对风险，这些条款明确规定了责任和赔偿机制，以防 AI 代理造成伤害。建立基本规则正是 Perplexity 想要避免的，他们坚持让其软件自由活动和互动，而不需要亚马逊的任何协议。

但这就是人工智能行业的缩影：避免因未经授权使用数据而承担责任，避免因人工智能模型产生幻觉和放大安全风险而承担责任，以及在人工智能模型与第三方服务互动时避免谈判。这是过去几十年科技颠覆者使用的老套路：不要浪费时间请求许可。先建立市场主导地位，然后再请求宽恕。

人工智能代理已经推动了更多的自动化，特别是在软件开发和部署方面。但该行业的兴奋和绝望的乐观情绪在与软件行业之外的人机交互时似乎难以维持。Klarna去年决定在之前解雇员工后重新雇佣他们来从事客户服务，这说明人工智能并不适合所有工作。

坦率地说，很多人不喜欢人工智能或对其持保留态度。我最近在旧金山的一家叫China Live的餐厅亲眼看到这一点。在这种情况下，人工智能代理体现在一个服务机器人上，它将外卖订单送到路边站，然后返回厨房准备下一批。

我是在一个星期六的晚上去的，那时餐厅很忙。服务员们常常得让开，等机器人慢慢穿过餐厅。有几次，工作人员不得不禁用机器人以便走过，然后通过触摸屏重新激活它，因为机器实在不够灵活。

我问为我们服务的女服务员对她的自动化同事怎么看。

她回答说，这很有帮助，因为它解放了人类员工的时间，不必多次往返于取货区。但这个机器人也减慢了交通流，导致了其他问题。她说，有一次，它与一位员工相撞，把一托盘饮料打翻在地。