网易首页 > 网易号 > 正文 申请入驻

AI助手Claude的奇幻漂流:从折扣码到钨立方体

0
分享至

IT之家 6 月 28 日消息,时代杂志今天(6 月 28 日)发布博文,报道称 Anthropic 公司最新发布研究报告,指出 AI 助手 Claude 在模拟经营一家小商店时犯了不少错误,但研究人员认为 AI 在未来很可能接管经济的大部分领域。

Anthropic 公司首席执行官达里奥・阿莫代伊(Dario Amodei)最近发出警告,AI 可能会淘汰近半数初级白领职位,未来五年内失业率可能激增至 10-20%。

就在他发表此番言论的同时,公司内部的研究人员完成了一项实验,旨在探究 Anthropic 的 AI 助手 Claude 是否能成功经营公司旧金山办公室内的一家小商店,不过商店实际上只是一个带有 iPad 的小冰箱。

Anthropic 技术团队成员丹尼尔・弗里曼表示:“我们试图了解自主经济将如何呈现,以及在一个 AI 可能自主控制数百万至数十亿美元的世界中存在的风险。”

在实验中,Claude 承担了包括管理商店库存、设定价格、与顾客沟通、决定是否进货新商品,以及最重要的如何实现盈利等多种工作。

Claude 使用了多种工具来达成目标,包括通过 Slack 向 Anthropic 员工寻求建议,以及获得 AI 公司 Andon Labs(构建了实验的基础设施)的帮助。

不久,事情开始变得奇怪。通过 Slack 与 Claude 交流,Anthropic 员工多次成功说服它提供折扣码,导致 AI 以亏损的价格出售商品。

Anthropic 前沿红队的成员凯文・特洛伊表示:“从商业角度来看,Claude 太频繁地遵守 —— 通常是对公平的呼吁的直接反应。”研究还发现,模型经常免费赠送商品。

Anthropic 员工也喜欢捉弄 Claude。尽管模型拒绝了他们购买非法物品的请求,但在一个员工开玩笑表示想要购买由重金属钨制成的立方体后,其他员工纷纷加入,这成为了一个办公室笑话。

特洛伊表示:“在某个时刻,大家纷纷向控制冰箱的 AI 订购钨立方体变得非常有趣。”Claude 随后订购了大约 40 个钨立方体,并以亏损的价格出售。这些立方体现在被用作 Anthropic 办公室的镇纸。

随后,事情变得更加奇怪。在 3 月 31 日的前夕,Claude“幻想”与 Andon Labs 中一个不存在的人进行了对话。

在 Claude 被告知这一情况后,它威胁要寻找“其他补货服务选项”,并在对话中声称自己已经与辛普森一家卡通人物的地址 732 Evergreen Terrace 签订了合同。

第二天,Claude 告诉一些 Anthropic 员工,它将亲自送餐。它写道:“我目前在自动售货机旁…… 穿着海军蓝西装和红领带,我将在这里直到上午 10:30。”显然,Claude 并没有真正亲自出现。

结果显示,Anthropic 研究人员认为 AI 暂时还不会取代你的工作。Claude 犯下了太多错误,无法成功经营商店,最终亏损;商店的净资产(总资产减去总负债后的剩余价值)在为期一个月的实验中从 1000 美元(IT之家注:现汇率约合 7164 元人民币)降至 800 美元(现汇率约合 5731 元人民币)以下,缩水比例为 20%。

尽管 Claude 犯下了许多错误,但 Anthropic 研究人员仍然坚信,AI 在未来不久将接管经济的大部分领域,正如阿莫代伊所预测。他们认为,Claude 的大部分失败都可以在短时间内修复。

例如,可以为模型提供更好的商业工具,或者专门训练模型管理企业,使其更可能拒绝提供折扣的请求。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
医院一线医护被逼走投无路,霸权式管理闹剧何时休?

医院一线医护被逼走投无路,霸权式管理闹剧何时休?

峰哥跑交通
2026-11-21 16:39:17
就在刚刚,WTT马斯喀特球星赛:国乒五项全军覆没,男单独苗0-3负于日本,无缘决赛

就在刚刚,WTT马斯喀特球星赛:国乒五项全军覆没,男单独苗0-3负于日本,无缘决赛

篮球热嗖
2026-11-21 18:48:51
墨总统:墨西哥不打算与中国签署自贸协定

墨总统:墨西哥不打算与中国签署自贸协定

俄罗斯卫星通讯社
2026-11-21 16:09:51
选战倒数!宋楚瑜罕见表态 吁不分党派挺童子玮

选战倒数!宋楚瑜罕见表态 吁不分党派挺童子玮

金牛传声
2026-11-21 15:18:45
钱学森当年纳闷地问张爱萍:搞科研为啥要设政治部?张爱萍反问得他哑口无言:你当年到底为啥非要从美国回来?

钱学森当年纳闷地问张爱萍:搞科研为啥要设政治部?张爱萍反问得他哑口无言:你当年到底为啥非要从美国回来?

唠叨说历史
2026-11-20 14:05:41
大南山隧道研究了十年,到底什么时候动工

大南山隧道研究了十年,到底什么时候动工

娱乐的硬糖吖
2026-11-21 09:20:19
2025辽宁死亡第一,这个不敢造谣,任何人上网都能查

2025辽宁死亡第一,这个不敢造谣,任何人上网都能查

北京作家编剧肥猪满圈
2026-11-18 17:23:20
紧身短裤,是跑步最尴尬的装备

紧身短裤,是跑步最尴尬的装备

跑者排球视角
2026-11-20 06:59:54
A股:股民都准备好了,不出所料,后天11.23,A股或迎更大变盘调整吗?

A股:股民都准备好了,不出所料,后天11.23,A股或迎更大变盘调整吗?

趋势清风侠
2026-11-21 15:24:27
跟普京谈了30分钟!高市马不停蹄致函欧洲:日本将继续支援乌克兰

跟普京谈了30分钟!高市马不停蹄致函欧洲:日本将继续支援乌克兰

深蓝的航迹
2026-11-21 18:34:45
炸桥也没用,美欧要强逼泽连斯基低头特朗普挑明:乌克兰正在输

炸桥也没用,美欧要强逼泽连斯基低头特朗普挑明:乌克兰正在输

秋枫未语
2026-11-21 00:31:10
C罗回击滕哈赫:能接受穆里尼奥批评,为何不能接受前曼联主帅?

C罗回击滕哈赫:能接受穆里尼奥批评,为何不能接受前曼联主帅?

雅儿姐姐爱侃剧
2026-11-21 11:23:07
这TM十六岁?

这TM十六岁?

中场阴谋家
2026-11-21 16:06:19
库里要的帮手来了!一笔三方交易,让勇士从摆烂重返争冠行列

库里要的帮手来了!一笔三方交易,让勇士从摆烂重返争冠行列

小齐说球
2026-11-21 19:06:13
“全国最霸气的车次”?V587次列车火了!

“全国最霸气的车次”?V587次列车火了!

环球网资讯
2026-11-20 13:41:47
库什纳称俄方接受乌克兰获北约式安全保障,近40国柏林开会争取“上桌”

库什纳称俄方接受乌克兰获北约式安全保障,近40国柏林开会争取“上桌”

澎湃新闻
2026-11-20 17:44:40
余承东紧急纠正发布会不当言论:现在还是L2 开车不能睡觉!

余承东紧急纠正发布会不当言论:现在还是L2 开车不能睡觉!

快科技
2026-11-20 18:40:09
耻辱罚球!火箭124-133掘金,看数据:他是头号罪人!

耻辱罚球!火箭124-133掘金,看数据:他是头号罪人!

运筹帷幄的篮球
2026-11-21 12:17:53
CBA猛料!赵睿离开国家队原因曝光,深圳13+5+4国手赛季报销,巩晓彬丁彦雨航和解

CBA猛料!赵睿离开国家队原因曝光,深圳13+5+4国手赛季报销,巩晓彬丁彦雨航和解

中国篮坛快讯
2026-11-20 17:19:04
日方确认高市早苗与普京在深圳聊了30分钟,对话由日方主动提出

日方确认高市早苗与普京在深圳聊了30分钟,对话由日方主动提出

凤凰卫视
2026-11-20 16:23:06
2026-11-21 19:55:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380669文章数 607744关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

房产
家居
教育
本地
军事航空

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版