山东
齐鲁晚报·齐鲁壹点评论员 孔雨童 绘画 徐进
记者让豆包帮订火车票，在按照它的指示输入姓名、身份证号并选择“是否靠窗”后，被告知“席位已锁定，打开12306完成支付即可”。然而打开12306却空空如也，毫无预定痕迹。
这并不是豆包第一次“胡答应”了。之前有网友让它帮订餐馆，它给订了一家不存在的店，导航过去是一片空地；也有网友向它咨询机票退票费，它信誓旦旦说“不足百元”，结果退票后被扣了600多。
为啥做不到却还应承甚至胡编？这源于AI大模型的本质——它是个语言预测器，原理是从海量文本里学习词语、句子之间的关联，根据上下文语境，输出一个个“最有可能出现”的词。如果训练数据里有虚假信息，或缺乏足够的案例，它就可能编造内容，还说得特别自信，这就是“AI幻觉”。
但这种“乱应承”真的无法控制吗？当然不是。如果提问涉及违法、有害信息，它立刻会回复你“无法回答”。这说明，只要在设置中稍作调整——如检测到“订餐厅、买车票、预约、代下单”统一回复“不提供代办”，或每条回复都附带“信息仅供参考”，就能在很大程度上避免用户被误导。
然而当前，这类“虚假代办”依然存在，“仅供参考”也难得一见，背后或许仍是一种“功利化”考量——当下各AI品牌竞争激烈，纷纷标榜为“全能助手”，如果它时时刻刻回复你“做不了”或者刷屏式提醒“信息不保真”，可能会显得“无能”而削弱用户黏性和竞争力。于是为了提升留存率和吸引力，平台会刻意放宽输出约束，也弱化风险提示。
所以说，豆包等AI背后站着的，还是人。某些“AI幻觉”不是技术管不住，更不如说是人为操控下算法的纵容，平台的默许。
截至2025年12月底，我国已有748款生成式人工智能服务完成备案，用户规模达到6.02亿人。AI幻觉，早已从技术问题，演变为法律和社会问题。
各AI运营方，已不能再用一个轻飘飘的“幻觉”名词、一句“技术系统性BUG”来搪塞用户了。真正的智能，从来不是永不犯错，而是知错能改、尊重事实。竞争可以激烈，发展可以提速，但底线不能失守。AI要赢得人心和未来，靠的不是装全能，而是敢认不能——在“无所不能”的滤镜和“有所不为”的担当之间，后者才是长久之道。
新闻线索报料通道：应用市场下载“齐鲁壹点”APP，或搜索微信小程序“齐鲁壹点”，全省800位记者在线等你来报料！
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
