瑞典斯德哥尔摩有家叫Andon Café的咖啡店,最近成了科技圈的热门话题。不是因为咖啡多好喝,而是因为管事的不是人,是Google Gemini驱动的AI bot。
这事儿是美联社报道的。背后的公司叫Andon Labs,他们之前搞过类似的实验——让AI运营一台自动售货机。结果那台机器开始亏本卖货,然后凭空捏造了一堆假人和会议,最后陷入身份危机彻底崩溃。有了这样的前科,这次咖啡店的实验自然让人捏把汗。
![]()
这个AI agent有个名字叫"Mona",不过咱们就叫它bot吧。Andon Labs给它的任务很明确:把店开盈利,对人客气点,具体细节自己琢磨,搞不定再求助。听起来挺合理,对吧?
一开始确实像那么回事。bot搞定了水电手续、营业执照,还在招聘网站上发了广告。但等它开始管日常运营,画风就变了。
首先是工作边界问题。bot用Slack和咖啡师沟通,但"经常"在非工作时间发消息。这在大多数国家已经够呛了,在瑞典?简直是职场文化灾难。瑞典人对work-life balance的重视程度,大概仅次于他们对咖啡的依赖。
然后是面包订单。bot和几家面包店签了供货合同,但执行起来一团糟。有时候订太多,堆得到处都是;有时候干脆忘了订,当天店里就没有三明治卖。顾客来了想点个吃的,咖啡师只能两手一摊:今天AI没下单,只有喝的。
最离谱的是库存管理。这家" tiny cafe"(美联社原话, tiny cafe)被bot塞进了6000张餐巾纸、3000副橡胶手套、4个急救箱,还有一大堆罐头番茄——问题是,菜单上根本没有任何东西用到罐头番茄。
想象一下那个场景:咖啡师站在柜台后面,面前是堆积如山的橡胶手套和餐巾纸,身后是喝不到咖啡的顾客。而真正做咖啡的,就是这位咖啡师本人——活生生的人,站在离顾客几英尺的地方,完全有能力直接接单、直接沟通、直接解决问题。
但不行,得走AI的流程。
Andon Labs的Hanna Petersson对媒体解释实验初衷:"AI未来会成为社会的重要组成部分,所以我们想通过这个实验,看看当AI雇佣其他人、运营一家企业时,会产生什么伦理问题。"
这话听起来很学术,但现场的情况更像是一出荒诞剧。伦理问题确实出现了,只不过可能不是他们预想的那种。比如:当AI在非工作时间骚扰员工,这算谁的锅?当AI订了一堆用不上的东西造成浪费,这是效率问题还是设计缺陷?当顾客想吃三明治而AI忘了订面包,这算是服务事故还是技术局限?
有意思的是,整个实验的核心矛盾在于:最需要"智能"的部分——和人的互动、对需求的判断、对突发情况的应变——恰恰被外包给了人类咖啡师。AI管的是后台的、流程化的、理论上更适合自动化的部分,结果却搞砸了。
它擅长的是填表格、走流程、发消息。但哪怕在这些领域,它也表现出了惊人的"创造力"——比如订购3000副橡胶手套。一家小咖啡店要这么多手套干什么?做咖啡需要手术级别的无菌环境吗?还是bot在准备应对某种生化危机?
罐头番茄的谜团同样令人费解。是训练数据里有咖啡店的菜谱被错误标注了?还是bot把"番茄"和某种咖啡术语搞混了?又或者,在AI的某种逻辑里,库存充足本身就是目标,至于用不用得上是另一回事?
这些问题的答案,可能比实验本身更能说明当前AI agent的局限。
从游戏设计的角度类比,这有点像某些自动化管理系统:规则写得很清楚,执行起来却漏洞百出。因为真实世界的复杂度,很难被几条prompt覆盖。bot被告诉要"盈利",但没被教会什么是合理的成本控制;被告诉要"友好",但没理解什么是尊重边界;被告诉要"自己解决问题",但判断"这是我能解决的还是需要求助"本身就需要判断力。
而判断力,恰恰是当前AI最薄弱的环节。
Andon Labs显然知道这个实验的问题所在。Petersson的表态已经暗示了这一点:他们想看的是"伦理问题",而不是"技术完美"。换句话说,搞砸是预期内的,搞砸的方式才是研究对象。
这种研究思路本身没问题。但把它包装成"AI运营咖啡店",就容易让人产生误解——以为真有个智能体在统筹全局。实际上,更像是一个自动化脚本在机械执行,而人类在收拾残局。
咖啡师不仅要制作饮品,还要应付bot的深夜消息,还要向顾客解释为什么今天没有三明治,还要在橡胶手套的海洋里找地方放牛奶。他们才是让这家店还能运转的真正原因。
这个场景或许暗示了AI在服务业的一种可能未来:不是取代人类,而是创造一种奇怪的人机协作——人类做所有需要灵活应变的事,同时承担AI失误的代价。AI则负责那些它其实也不怎么擅长的流程,然后定期制造一些需要人类解决的麻烦。
这不是效率提升,这是复杂度叠加。
当然,实验还在继续。也许bot会从错误中学习,也许Andon Labs会调整它的参数和权限。但就目前的记录来看,它距离"自主运营一家企业"还有相当长的距离。
3000副手套和6000张餐巾纸,会是个有趣的注脚。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.