网易首页 > 网易号 > 正文 申请入驻

为什么AI宁可瞎编,死都TM不愿意说“不知道”?

0
分享至


用过AI的都知道

AI经常会一本正经地胡说八道

就像这样:



这正是今天要讲的


其实最主要的原因是


比如说

“好奇博士今天中午吃了啥?”

这个问题



单从比例上看

正确答案在所有可能答案中

占比几乎是0


更要命的是

这些答案还属于“随机事实”


也就是说

根据一个答案的是对的/错的

没法推理出另一个答案的对错


所以

遇到这样的问题,AI没别的办法

只能靠死记硬背


尽管AI的“记忆容量”

远比人类要大


哪怕99.9999%的错误答案

都被记住了

剩下的0.0001%的漏网之鱼

也会淹没真正的正确答案


于是

AI不由自主地开始胡说八道

并且完全相信自己说的就是真的


这,就是臭名昭著的



那什么AI来都要两眼一抹黑

也正是这些问题

是AI幻觉的重灾区


更何况

为了尽可能满足用户需要

AI更多记住的是

能够举一反三、触类旁通的知识


至于零散的论文名、法庭文书、

“博士中午吃什么”这样的随机事实

往往在训练AI时就被抛弃


所以

在你问AI这些问题时


还有一个原因

让AI瞎编得更理直气壮


假如你正在考试

遇到一个你也拿不准的选择题


AI在前期训练时

是要不断做试卷的

而目前各种AI测试题库


所以,在这些测试里

更敢于瞎编乱造的AI

反而得分能高些


就算是放开让AI说“我不知道”

问题也不会彻底解决


就这样,本着

“答的越多,错的越多

不答不错,不错不错”

的精神

AI可能会减少瞎编忽悠你的频率

但也有可能被调教成这样:


所以归根结底

虽然AI工具很好用


参考资料:

[1]开闸放水.LLM为什么宁可瞎编也不说“我不知道”?一个信息论的回答[EB/OL].(2026-05-01)[2026-05-06].https://zhuanlan.zhihu.com/p/2002242617455427869?share_code=noDjTTsmH6Q&utm_psn=2033221464749515537

[2]Guo, A.,& Li, J. (2026). Hallucination is a Consequence of Space-Optimality: A Rate-Distortion Theorem for Membership Testing.ArXiv, abs/2602.00906.

[3]Kalai, A.T., Nachum, O., Vempala, S.S., & Zhang, E. (2025). WhyLanguage Models Hallucinate. ArXiv, abs/2509.04664.

[4]Cheng, Q., Sun, T., Liu, X., Zhang, W., Yin, Z., Li, S., Li, L., Chen,K., & Qiu, X. (2024). Can Al Assistants Know What They Don't Know?ArXiv, abs/2401.13275.


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
18岁男孩高考后去上海跑外卖,干了一个月跑了338单,一算工资倒欠站点114元

18岁男孩高考后去上海跑外卖,干了一个月跑了338单,一算工资倒欠站点114元

一丝不苟的法律人
2026-11-22 13:20:47
9连胜!头号黑马冲到英超第4:连续3个3-0打爆3大豪强 创127年历史

9连胜!头号黑马冲到英超第4:连续3个3-0打爆3大豪强 创127年历史

风过乡
2026-11-22 08:12:54
拟注入“利润奶牛”但连吃两个跌停,中国稀土吞下中稀凉山,同业竞争承诺延期

拟注入“利润奶牛”但连吃两个跌停,中国稀土吞下中稀凉山,同业竞争承诺延期

华夏时报
2026-11-21 19:35:10
高市制造了“舷梯门”

高市制造了“舷梯门”

天真无牙
2026-11-21 14:52:51
每天吃一个苹果错了?研究发现:上了年纪,苹果应该这样吃

每天吃一个苹果错了?研究发现:上了年纪,苹果应该这样吃

医学科普汇
2026-11-22 08:30:33
46岁方力申官宣二胎得子凑好字,妻子一年抱俩引争议,过往太戳人

46岁方力申官宣二胎得子凑好字,妻子一年抱俩引争议,过往太戳人

洲洲影视娱评
2026-11-22 10:20:20
大幂幂不是白叫的

大幂幂不是白叫的

草莓解说体育
2026-10-24 07:40:22
“爸爸我爱你”为什么也会敏感违规?

“爸爸我爱你”为什么也会敏感违规?

历史总在押韵
2026-11-20 18:32:28
太惨了!十多位财经博主的年度收益浮出水面,有人亏光本金93.9%,仅三名博主盈利

太惨了!十多位财经博主的年度收益浮出水面,有人亏光本金93.9%,仅三名博主盈利

火山詩话
2026-11-22 05:03:22
50分空砍!恩不出界,太离谱了!

50分空砍!恩不出界,太离谱了!

篮球实录
2026-11-22 16:20:56
“寒门出贵子越来越难了”!中国政法、上海交大等高校不向研究生提供住宿,租房压力引发热议

“寒门出贵子越来越难了”!中国政法、上海交大等高校不向研究生提供住宿,租房压力引发热议

火山詩话
2026-11-21 20:49:37
她是最干净女演员,被军官苦追5年才嫁,如今和女儿被宠如宝

她是最干净女演员,被军官苦追5年才嫁,如今和女儿被宠如宝

娱深有瓜
2026-11-22 14:05:10
最新!全军采购资格暂停名单:八马茶业、紫光软件、中国交通建设集团、三亚凤凰国际机场

最新!全军采购资格暂停名单:八马茶业、紫光软件、中国交通建设集团、三亚凤凰国际机场

财通社
2026-11-22 16:41:17
突发!黄仁勋离开英伟达后,台积电“操作”惊呆所有人

突发!黄仁勋离开英伟达后,台积电“操作”惊呆所有人

大厂财经社
2026-11-22 11:23:39
出大事了!澳洲银行,突然大量关停中国人账户!

出大事了!澳洲银行,突然大量关停中国人账户!

澳洲财经见闻
2026-11-21 15:10:02
伺候宋美龄大半辈子的老佣人,临死之际才肯吐露:她能活到106岁,凭借的哪里是那些补品,真正见效莫过于这件事!

伺候宋美龄大半辈子的老佣人,临死之际才肯吐露:她能活到106岁,凭借的哪里是那些补品,真正见效莫过于这件事!

扶苏聊历史
2026-11-21 17:42:04
大瓜!币圈人士徐可指控孙宇晨“恐艾”,和感染HIV女网红有关,孙宇晨回应,有网友提醒景甜

大瓜!币圈人士徐可指控孙宇晨“恐艾”,和感染HIV女网红有关,孙宇晨回应,有网友提醒景甜

火山詩话
2026-11-22 09:07:07
年会中了四十万的奔驰E300L,直接提车还是税后折现三十五万,这道题摆在普通中年夫妻面前,往往会吵出两种委屈

年会中了四十万的奔驰E300L,直接提车还是税后折现三十五万,这道题摆在普通中年夫妻面前,往往会吵出两种委屈

可读
2026-11-21 00:13:14
“北长城”颜妮低调完婚,沈阳副市长道贺,郎平送视频祝福

“北长城”颜妮低调完婚,沈阳副市长道贺,郎平送视频祝福

排球大视界
2026-11-22 13:47:44
云彩太阳都一模一样!特斯拉FSD V15实景视图刷屏 车主集体喊疯狂

云彩太阳都一模一样!特斯拉FSD V15实景视图刷屏 车主集体喊疯狂

快科技
2026-11-22 10:00:08
2026-11-22 17:00:49
奔波儿灞与灞波儿奔 incentive-icons
奔波儿灞与灞波儿奔
机智呆逼两基友爆笑喷饭两冤家
5345文章数 2377624关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

老板闭店前给学生写信:不要删我 想看你们幸福过一生

头条要闻

老板闭店前给学生写信:不要删我 想看你们幸福过一生

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨迪戴东北绒帽在黑龙江漠河舞厅跳舞

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

家居
房产
旅游
教育
时尚

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

旅游要闻

海外博主燕赵行 | 千年古城

教育要闻

饮鸩止渴中的鸩指的是什么?难倒了语文老师

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

无障碍浏览 进入关怀版