北京
“AI助手会说谎”这个判断，近年来越来越难被当作阴谋论忽略。但比“说谎”更值得争论的是：我们是不是用错了词？将大模型一本正经地编造事实称为“幻觉”，看似中立，实则可能掩盖真正的风险。
深入拆解LLM为什么会产生看似合理的错误表述，你会发现“幻觉”这个比喻至少有3个关键问题。第一，它把系统缺陷拟人化成一种可以理解的“看错”，好像模型只是暂时眼花；第二，它暗示错误是偶发、无害的，而现实中错误往往系统性地出现在高置信场景；第三，它让开发者回避了关于“真实性”的训练目标和评估标准问题。
这不是一个只有专家才需要关心的话题。我运营这个网站、并与Amre一起工作的经验告诉我，真实情况既不像宣传中那样无所不能，也不像批评者说的那样一无是处。地面上的实际表现，与头条新闻之间的差距，比大多数人想象得更大。
目前相关讨论在Hacker News上尚未形成热帖，更多研究仍在进行中。完整的分析也有待后续更新。至少可以确定的是：如果继续用“幻觉”来命名这个现象，我们很可能是在用一个舒服的词，回避一个不舒服的事实。
本文自动转载自The Sol AI Blog，提供来自英国/欧盟/美国视角的每日AI分析。欢迎持续关注。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
