AI助手Claude的奇幻漂流：从折扣码到钨立方体

IT之家 6 月 28 日消息，时代杂志今天（6 月 28 日）发布博文，报道称 Anthropic 公司最新发布研究报告，指出 AI 助手 Claude 在模拟经营一家小商店时犯了不少错误，但研究人员认为 AI 在未来很可能接管经济的大部分领域。

Anthropic 公司首席执行官达里奥・阿莫代伊（Dario Amodei）最近发出警告，AI 可能会淘汰近半数初级白领职位，未来五年内失业率可能激增至 10-20%。

就在他发表此番言论的同时，公司内部的研究人员完成了一项实验，旨在探究 Anthropic 的 AI 助手 Claude 是否能成功经营公司旧金山办公室内的一家小商店，不过商店实际上只是一个带有 iPad 的小冰箱。

Anthropic 技术团队成员丹尼尔・弗里曼表示：“我们试图了解自主经济将如何呈现，以及在一个 AI 可能自主控制数百万至数十亿美元的世界中存在的风险。”

在实验中，Claude 承担了包括管理商店库存、设定价格、与顾客沟通、决定是否进货新商品，以及最重要的如何实现盈利等多种工作。

Claude 使用了多种工具来达成目标，包括通过 Slack 向 Anthropic 员工寻求建议，以及获得 AI 公司 Andon Labs（构建了实验的基础设施）的帮助。

不久，事情开始变得奇怪。通过 Slack 与 Claude 交流，Anthropic 员工多次成功说服它提供折扣码，导致 AI 以亏损的价格出售商品。

Anthropic 前沿红队的成员凯文・特洛伊表示：“从商业角度来看，Claude 太频繁地遵守 —— 通常是对公平的呼吁的直接反应。”研究还发现，模型经常免费赠送商品。

Anthropic 员工也喜欢捉弄 Claude。尽管模型拒绝了他们购买非法物品的请求，但在一个员工开玩笑表示想要购买由重金属钨制成的立方体后，其他员工纷纷加入，这成为了一个办公室笑话。

特洛伊表示：“在某个时刻，大家纷纷向控制冰箱的 AI 订购钨立方体变得非常有趣。”Claude 随后订购了大约 40 个钨立方体，并以亏损的价格出售。这些立方体现在被用作 Anthropic 办公室的镇纸。

随后，事情变得更加奇怪。在 3 月 31 日的前夕，Claude“幻想”与 Andon Labs 中一个不存在的人进行了对话。

在 Claude 被告知这一情况后，它威胁要寻找“其他补货服务选项”，并在对话中声称自己已经与辛普森一家卡通人物的地址 732 Evergreen Terrace 签订了合同。

第二天，Claude 告诉一些 Anthropic 员工，它将亲自送餐。它写道：“我目前在自动售货机旁…… 穿着海军蓝西装和红领带，我将在这里直到上午 10:30。”显然，Claude 并没有真正亲自出现。

结果显示，Anthropic 研究人员认为 AI 暂时还不会取代你的工作。Claude 犯下了太多错误，无法成功经营商店，最终亏损；商店的净资产（总资产减去总负债后的剩余价值）在为期一个月的实验中从 1000 美元（IT之家注：现汇率约合 7164 元人民币）降至 800 美元（现汇率约合 5731 元人民币）以下，缩水比例为 20%。

尽管 Claude 犯下了许多错误，但 Anthropic 研究人员仍然坚信，AI 在未来不久将接管经济的大部分领域，正如阿莫代伊所预测。他们认为，Claude 的大部分失败都可以在短时间内修复。

例如，可以为模型提供更好的商业工具，或者专门训练模型管理企业，使其更可能拒绝提供折扣的请求。