北京
AI幻觉，指的是AI模型生成的内容听起来连贯且自信，但实际上却与事实不符、凭空捏造或缺乏训练数据支持。这种现象出现在聊天机器人、图像生成器和多模态系统中。例如，聊天机器人可能编造出不存在的法律条文，图像模型可能在人类手上多画一根手指。模型并没有真正感知世界，它只是在预测最有可能出现的下一个词，而有些预测听起来合理，却是错误的。
幻觉并非罕见的小概率事件，而是这类模型工作机制的固有属性。对于任何部署AI的企业来说，这都带来了真实的风险，包括法律责任、合规问题以及客户信任的流失。
幻觉不是“bug”，而是生成式AI模型构建和训练方式带来的结果。而且，新一代模型未必能减少幻觉。据TechCrunch 2025年报道，OpenAI的新版o3模型编造错误答案的频率约为旧模型的两倍。新一代“推理模型”逐步推理问题，早期一个微小错误可能滚雪球式地变成最终答案中信心满满但完全错误的结论。
AI幻觉绝非理论问题，它已经在多个行业造成了可衡量的损害。2023年2月，谷歌在一则宣传广告中展示了Bard聊天机器人。当被问到詹姆斯·韦伯太空望远镜的新发现时，Bard回答说韦伯望远镜拍摄了太阳系外行星的第一张照片。这是错误的。实际上，第一张系外行星图像早在2004年就由甚大望远镜拍摄。这个错误很快被天文学家在社交媒体上发现，谷歌母公司Alphabet的市值在单个交易日内蒸发了约1000亿美元。这一事件表明，AI幻觉的代价可能极为巨大。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
