“胡说八道”+不知道：我用AI搜索的一点感受

盼望智库公众号截图

“胡说八道”+不知道：我用AI搜索的一点感受

赵连军

今天看到盼望公众号上发表的一篇文章《一本正经“胡说八道”，AI产生“幻觉”了？》指出，当前，人工智能技术快速发展，但大模型“自说自话”、一本正经“胡说八道”、生成偏离事实内容的问题日益凸显，这一现象被称为“AI幻觉”。对此，笔者深有同感，一些AI不仅会“胡说八道”，还有它不知道的。笔者举几个学习研究新四军人物的AI搜索例子，和大家分享。

一是“胡说八道”的。如搜索原沈阳军区后勤部部长李义明的生平简历，AI给的内容见下图：

AI搜索截图

实际上，笔者要找的原沈阳军区后勤部部长李义明，陕西省靖边县人，1916年生，1933年5月参加革命。1955年被授予上校军衔。1964年晋升大校军衔。

再比如搜索李景展大校的生平，AI给的内容见下图：

AI搜索截图

实际上，笔者要搜索的李景展大校，是河南省信阳县（今信阳市）浉河区东双河镇人，1919年生，1955年被授予上校军衔，1960年晋升大校军衔。荣获了三级独立自由勋章、二级解放勋章和独立功勋荣誉章。是第五届全国人大代表。2003年4月15日在西安逝世。

二是AI不知道的。如搜索全民族抗战时期曾任过宿北警卫团副政委的李石清的生平，AI给的内容见下图：

AI搜索截图

再比如全民族抗战时期与黄克诚大将和著名文化人阿英多有交往的华成公司负责人张仲惠，笔者搜索他的逝世时间（笔者最终通过史料查到是有明确日期的），AI给的内容见下图：

AI搜索截图

AI既有“胡说八道”的，也有不知道的，好在对于不知道的，AI也如实给出了不知道的回答，而不是胡说八道，如果对于不知道的，也胡说八道，那就更是“胡说八道”了。

尽信书，则不如无书。针对AI的“胡说八道”和不知道，笔者认为，搞历史研究，AI只能作为参考使用，引用AI的搜索结果时必须认真进行辨识。当然，如果有AI进行文学创作等，又另当别论了。

《一本正经“胡说八道”，AI产生“幻觉”了？》文章中说：“AI技术的发展方兴未艾，但确保其生成内容的真实性和可靠性，尤其需要技术开发者、监管机构共同努力。针对‘AI幻觉’问题，业界建议，在技术层面，要持续优化模型架构，增强事实核查能力；在监管层面，需完善相关规范，明确责任边界。”诚哉斯言。