AI幻觉让顾客变得更加理直气壮

由于AI的介入，"顾客永远是对的"这句老话正在被改写。

在纽约市做服务员的麦迪逊（Madison，为保护身份要求匿名姓氏）每次接待客人都会询问其过敏情况。但最近她遇到了几次惊险场面。"有人告诉我对贝类过敏，但当我回来确认时他们什么都不问，"麦迪逊说，"然后他们点了一道带贝类高汤的鱼类菜品。"

当她提醒顾客某道菜含有过敏原时，有顾客反驳说ChatGPT告诉他们并非如此。"他们就想和ChatGPT对话，"麦迪逊解释道，"你明明对贝类过敏，ChatGPT却说这道菜不含贝类，而我们明确告诉你，它确实含有！"

生成式AI工具的广泛普及，正在重新定义长期困扰餐厅和零售从业者的这句老话。但当顾客期望你配合AI编造的内容时，会发生什么？

除了无视她关于过敏原的警告外，麦迪逊还注意到，在她此前工作的那家米其林推荐的意大利餐厅里，顾客对生成式AI的依赖正在增加。"我提议'让我叫侍酒师过来帮您'的次数越来越多，但对方却说'不用了，我直接问ChatGPT'，或者侍酒师直接被顾客以更信任ChatGPT为由打发走，这种情况越来越频繁，"她说。她曾遇到顾客要求店里没有的酒款——有些情况下，这些酒根本就不存在。

对麦迪逊来说，这些AI幻觉加剧了一些人原本就有的对葡萄酒的焦虑。"有些人一直对侍酒师有成见，觉得'这些人就像二手车销售员，总想让我们多花钱买酒'，"她说，"也有人会想'侍酒师肯定觉得我很蠢'。"为了"软化"AI幻觉带来的冲击，麦迪逊和同事们会这样解释："我们这份酒单非常专精，也许它推荐的是一款法国葡萄酒，而我们不供应法国酒"，而不是直接告诉顾客，他们的AI聊天机器人完全编造了一个酒品牌。

AI的渗透似乎已经普遍存在于各类客户服务岗位中。Meta新推出的AI智能体Muse的上线，很可能会加剧这一问题，也会给那些需要应对顾客偶尔莫名其妙需求的员工带来更多困扰。在采写本文过程中，我听到了来自电影院员工、咖啡师和苹果零售店员工的类似反馈，他们都曾遇到顾客索要根本不存在的产品或功能。在Reddit和X平台上，客服人员纷纷抱怨那些把ChatGPT的话当作金科玉律的顾客。

在落基山地区联邦土地工作的河流巡护员杰森（Jason）表示，他注意到越来越多游客带着不合理的AI生成行程单来到公园。

"我和同事向他们解释，AI幻觉出的露营地点或行程安排在地理上根本不合逻辑，导致团队有些天需要逆流划船（这根本不可能），有些天又要顺流漂流，"因是联邦雇员而要求匿名的杰森说，"最离谱的是，即便护林员指着地图解释，仍有多个团队表示怀疑。某类AI用户更倾向于相信ChatGPT，而不是护林员、地图和纸质指南。"

在纽约一家课后项目担任教师、要求匿名的凯西（Casey）表示，她注意到许多学生的父母、保姆及其他看护人员，如今在儿童发展问题上更倾向于求助ChatGPT或Claude。

"有一个家庭咨询ChatGPT为孩子制定作息和睡眠时间表，但孩子的睡眠明显不足，"凯西说。根据孩子在项目中的表现，凯西估计孩子每晚还需要多睡两到三个小时，并将此告知了家长。"家长却坚持说他们的ChatGPT认为这个时间表没问题。"

她说，一些家长现在把生成式AI工具视为比育儿专业人士更权威的专家。"和已经下定决心的人沟通真的很难，"凯西说，"因为他们信任这个外部实体，认为它的价值不可替代。"她也注意到AI在更温和场景中的应用，比如有孩子带着AI生成的涂色画来上课。

从事餐饮服务15年的劳伦·威尔福德（Lauren Wilford）也注意到，AI正在渗透她与顾客的日常互动中。最初是从菜单开始的：有人会把菜单拍照上传给ChatGPT或Claude，询问该点什么菜，或请求配酒建议，而不是直接问服务员。

但现在，似乎有些顾客已经彻底跳过了中间环节。过去一年里，威尔福德所在的餐厅不断接到自称代表用户进行预订的智能体打来的电话和发来的邮件。智能体型AI的兴起让这类互动变得愈发令人困惑。

威尔福德曾对一位一向甩手不管的客户感到意外——就在一场大型活动前夕，对方突然变得要求颇多，临时要求提供讲台和视听设备（这家她管理的罗德岛普罗维登斯餐厅并没有现成设备），并对餐饮菜单进行最后时刻的更改。但更让威尔福德意外的是，第二天客户到场后，却只字未提这些要求。尽管无法证实，但威尔福德怀疑这些要求可能根本不是公司任何人提出的，她猜测这是某个AI智能体的"杰作"。

"我理解人们使用AI智能体的原因，"威尔福德说，尤其是在处理行政和事务性任务时，"但对于那些需要两个人见面协商、共同解决问题才有价值的场景，我觉得我们还没有意识到，如果跳过这些环节，我们可能会失去什么。"

Q&A

Q1：为什么顾客会相信AI而不相信服务员的提醒？

A：一些顾客把生成式AI工具当作权威专家，认为其判断比专业人士更可靠，即便AI给出的信息是错误或编造的，他们也倾向于相信AI而非现场工作人员的专业建议。

Q2：AI幻觉具体是指什么现象？

A：AI幻觉是指AI生成内容时编造出不存在的事实、产品或信息的现象，例如编造出餐厅并不供应的葡萄酒品牌，或生成不符合实际地理情况的旅行路线。

Q3：AI智能体的兴起会给服务行业带来哪些问题？

A：智能体型AI可能代替用户直接联系商家提出请求，但这些请求有时并非用户本意，导致商家按AI要求准备资源后，用户却未提及或否认相关需求，造成资源浪费和沟通混乱。