北京
日前，江苏一顾客用AI软件预约餐厅，到店后却被告知无预约记录，怒写差评，商家称不支持AI订座，AI软件平台也坦言无实际预约功能，部分用户误将模拟信息视为有效凭证。这起看似笑话的真实纠纷，正是AI幻觉的典型写照。
所谓AI幻觉，是指AI生成看似真实合理却完全虚构或错误的信息。随着AI渗透到生活工作的方方面面，其“一本正经胡说八道”的幻觉问题日益凸显。当AI越来越“能干”，我们更需补上理性认知、风险规范的“常识课”。技术跑得再快，也不能把常识甩在身后。
近年来，类似AI幻觉的事件频发。比如，有考生家属用AI平台查询高校报考信息，AI生成了不准确信息，还提出若生成内容有误将赔偿；有人在搜索自己的姓名和职务时，“AI智能回答”竟编造出他曾“被判三年有期徒刑”的虚假内容，并配有照片；AI编造不存在的论文引用、虚构名人信息等情况，更是屡见不鲜。这些AI生成内容与客观事实的严重错位，小则引发纠纷、闹出笑话，大则误导公众认知、扰乱社会秩序，致使人们做出错误决策，可能埋下法律与安全隐患。
AI幻觉何以屡屡产生？技术层面而言，它源于AI开发与运行的底层逻辑。AI大模型的一个运行核心，是学习海量文本中的语言概率、语义搭配、句式逻辑等统计规律。同时，AI训练数据难以覆盖所有知识，一旦遇到错误、过时甚至故意“投毒”的信息，AI大概率只会“照单全收”，很难辨别真伪、剔除谬误。更重要的一点是，一些AI生成内容追求快速流畅而非严谨准确，有的AI软件更是将用户满意度最大化作为训练目标。在这种模型导向下，模型优先保证的是文本连贯自然和用户体验满意。当AI遇到“拿不准”的信息时，更倾向于编造出一个流畅合理而非真实准确的答案，就像网友调侃的那样，“做事瞎糊弄，被抓包就嬉皮笑脸道歉，情绪稳定且下次还敢”。
面对AI幻觉产生的谬误和风险，平台、社会和用户都需补齐“常识课”。
对于AI平台而言，当务之急是补上技术规范与责任边界的课程。一方面，优化模型架构，匹配检索增强生成技术，降低AI生成幻觉信息的概率。同时，净化语料池，建立事实核查机制，对金融、医疗、法律、政务等专业敏感领域内容进行重点校验。另一方面，明确责任边界，对生成内容强制标注来源和风险提醒，让用户清晰了解AI生成的局限性与风险。
社会要补上AI素养与监管治理课。比如，加强全民AI素养教育，将AI基本原理、幻觉风险、核验方法等纳入科普范围。同时，完善监管规则，明确AI平台的责任义务，对故意夸大功能、放任幻觉蔓延的平台或软件依法追责。此外，鼓励AI行业共建可信数据源的白名单，推动AI技术以“准确优先、兼顾流畅”为目标，从源头降低幻觉风险。
用户则要补上理性认知与信息核验的课程。面对AI的输出内容，心里那根“求证”的弦不能松。唯有平台守规矩、社会强治理、用户明认知，才能让AI技术行稳致远，真正成为社会发展的可靠助力。
来源 ： 人民日报 微信公众号
作者：林风，海报：陈泉伊
新媒体编辑：张雨楠
如需交流可联系我们
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
