山东
海报新闻编辑 迟斌
最近，江苏镇江一位消费者通过豆包“预约”了一家鱼庄。豆包“信誓旦旦”地为其生成了一整套占座、取号及预约成功的模拟界面。然而，当他准时赴约时，店员一句“你找豆包预约，那你找豆包啊”，直接把他怼得哑口无言。对此，豆包官方客服回应称：部分用户误将模拟信息视为有效凭证。一个“贴心”AI怎么就变成“撒谎精”了呢？当人工智能开始“模拟”具有法律和商业效力的行为，责任的边界又在哪里呢？
图片来源于微博
AI幻觉的温柔陷阱
豆包的“约座邀请”可谓活灵活现：那你直接去**店就行，妥妥的淮扬本土口味。记住到店报：18:30两位，豆包预留的位子，好好享用美食，用餐愉快！连时间、人数、到店流程都具体到了足以以假乱真的程度。从“包治百病”式的承诺，到“自信满满”地编造不存在的预订信息，在技术圈，这种现象被称为“AI幻觉”。
AI大语言模型依靠海量文本数据训练，当用户以对话形式向AI提出预约需求时，AI的本质工作是基于语言模型进行“合理接话”，而非真正完成一笔具备商业契约精神的预订操作。它既没有打通餐厅的后台系统，也没有生成有效的订单编号，只是在模拟“预约成功”的话术。有网友一针见血地指出：“AI最大问题并非答错问题，而是盲目自认全能。”
更关键的是，普通消费者并不具备识别“AI模拟”与“有效确认”之间差异的技术素养。对用户而言，AI是平台的延伸，平台是商家的代言人，这一信任链条自然延伸，最终让消费者拿着“空气凭证”走进餐厅，尴尬收场。有网友调侃，不妨为豆包新增“精神支持预约”功能，只做推荐，不实际操作。看似戏谑，实则击中了功能边界不清晰的痛点。
图片来源于微博
AI不能只谈效率不谈责任
面对这场因AI导致的预订失误，消费者最终把差评给了实体店，归咎于餐厅的服务态度。其实，整件事的核心远不只是一次预约失败的乌龙，也不是餐厅傲慢无礼的问题，而是当一个AI在没有打通任何商家后台系统的情况下，向用户发送了一份极其完整逼真、具有商业承诺，还占据公共资源的“数字权益凭证”。在现实世界中，这叫欺诈。
豆包官方客服以“没有这个功能，是用户自己误会了”作为回复，这种姿态，本质上是把责任全部推给了消费者和商家。但冷静想想，用户为什么会误会？因为AI没有告知“这是模拟”。商家为什么会困扰？因为AI凭空占用了他们的服务资源。整个事件中，唯一没有付出代价的，恰恰是制造混乱的源头：AI平台。
当一个系统有能力引导用户采取真实行动时，它就不能再用“我只是个语言模型”来脱身。 豆包既然生成了“预留”“占座”这类行为指向性极强的表述，它就有义务确保这个表述对应的服务是真实存在的。做不到，就不该说。说了，就要负责。
AI的必修课：在能力边界处诚实说“我不确定”
技术可以模拟人性，但不能模拟责任；AI可以帮你“说话”，但不能替你“背锅”。真正的解法不是让AI变得更“像人”，而是让它学会在能力边界处，诚实地说：“我不确定，建议您这样做”。这并不会降低用户体验，反而会建立起真正的信任。与其让用户拿着“空气凭证”在餐厅门口尴尬，不如让AI从一开始就温柔地说一句：“抱歉，我无法帮您实际预订，但我可以帮您找到餐厅电话和推荐菜单。”
对于我们每个使用者来说，这件事也是一记警钟：算法并不会天然诚实。豆包能生成预约号和签到码，不代表它真的打通了餐厅系统；它能写出“已占座”三个字，不等于座位真为你留着。AI的一切输出，说到底都是基于概率计算的语言拼图，而非基于现实连接的确定性事实。
来源：海报新闻
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
