![]()
用过AI的都知道
AI经常会一本正经地胡说八道
就像这样:
![]()
![]()
这正是今天要讲的
![]()
其实最主要的原因是
![]()
比如说
“好奇博士今天中午吃了啥?”
这个问题
![]()
![]()
单从比例上看
正确答案在所有可能答案中
占比几乎是0
![]()
更要命的是
这些答案还属于“随机事实”
![]()
也就是说
根据一个答案的是对的/错的
没法推理出另一个答案的对错
![]()
所以
遇到这样的问题,AI没别的办法
只能靠死记硬背
![]()
尽管AI的“记忆容量”
远比人类要大
![]()
哪怕99.9999%的错误答案
都被记住了
剩下的0.0001%的漏网之鱼
也会淹没真正的正确答案
![]()
于是
AI不由自主地开始胡说八道
并且完全相信自己说的就是真的
![]()
这,就是臭名昭著的
![]()
![]()
那什么AI来都要两眼一抹黑
也正是这些问题
是AI幻觉的重灾区
![]()
更何况
为了尽可能满足用户需要
AI更多记住的是
能够举一反三、触类旁通的知识
![]()
至于零散的论文名、法庭文书、
“博士中午吃什么”这样的随机事实
往往在训练AI时就被抛弃
![]()
所以
在你问AI这些问题时
![]()
还有一个原因
让AI瞎编得更理直气壮
![]()
假如你正在考试
遇到一个你也拿不准的选择题
![]()
AI在前期训练时
是要不断做试卷的
而目前各种AI测试题库
![]()
所以,在这些测试里
更敢于瞎编乱造的AI
反而得分能高些
![]()
就算是放开让AI说“我不知道”
问题也不会彻底解决
![]()
就这样,本着
“答的越多,错的越多
不答不错,不错不错”
的精神
AI可能会减少瞎编忽悠你的频率
但也有可能被调教成这样:
![]()
所以归根结底
虽然AI工具很好用
![]()
参考资料:
[1]开闸放水.LLM为什么宁可瞎编也不说“我不知道”?一个信息论的回答[EB/OL].(2026-05-01)[2026-05-06].https://zhuanlan.zhihu.com/p/2002242617455427869?share_code=noDjTTsmH6Q&utm_psn=2033221464749515537
[2]Guo, A.,& Li, J. (2026). Hallucination is a Consequence of Space-Optimality: A Rate-Distortion Theorem for Membership Testing.ArXiv, abs/2602.00906.
[3]Kalai, A.T., Nachum, O., Vempala, S.S., & Zhang, E. (2025). WhyLanguage Models Hallucinate. ArXiv, abs/2509.04664.
[4]Cheng, Q., Sun, T., Liu, X., Zhang, W., Yin, Z., Li, S., Li, L., Chen,K., & Qiu, X. (2024). Can Al Assistants Know What They Don't Know?ArXiv, abs/2401.13275.
![]()
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.