北京
以为有了AI就能避开错误，结果恰恰相反——一项覆盖法国、意大利多所大学的研究揭示了这样一个反直觉现象：获得AI建议后，人们更难说出“我不知道”，反而会自信满满地复述错误信息，哪怕模型的幻觉丝毫没有减轻。
研究团队由米兰比可卡大学副教授Valerio Capraro、法国高等师范学院的Chiara Marcoccia以及罗马第一大学的Walter Quattrociocchi共同完成。他们特意设计了一套多数大语言模型难以正确回答的问题，围绕《我爱贝克汉姆》中球队球衣颜色、《高速路上一只猫》里Monica驾驶的车型等电影视觉细节展开。这些细枝末节通常不在训练数据里，实验选用的模型Step 3.5 Flash也确实频繁答错。值得注意的是，研究人员还测试了GPT-5.5、Claude Sonnet 4.6和Gemini 3.5 Flash，但它们在一些细节题上反而能蒙对，因此最终选用Step 3.5 Flash，就是为了避免参与者把回答权“合理”交给一个可靠工具。
实验把参与者分成两组：一组完全靠自己作答，另一组可以随时向AI求助。结果呈现出一个陡然断裂的数字对比：没有AI时，44%的人会直接回答“不知道”，相当于近半数人承认自己的知识盲区；而AI介入后，这个比例只剩3%，近乎崩盘。答对率同样走低——无AI时有27%的人给出正确答案，引入AI后跌至9%，只有原本的三分之一。
更矛盾的一幕出现在自信度上。在没有AI帮助时，约有30%的参与者认为自己的答案正确；而一旦借助AI，这个数字飙升至76%。也就是说，整体表现变差、错误率攀升，但人们对答案的确信程度反而翻了一倍多。Capraro用一句话概括了这种反差：“人们的表现变得更差——准确率只有原来的三分之一，但他们的自信程度却提高了一倍。”
研究人员还试图用金钱激励来回调谨慎程度。引入奖励机制后，愿意说“不知道”的比例从3%微幅回升到8%，答对率也从9%提升到16%。然而这两个数字仍然远低于无AI条件下的44%和27%，说明仅靠外部激励，很难让人重新找回暂停判断的能力。
Capraro认为，这些基于电影细节题的发现可以推广到更广泛的场景。他将问题的根源指向AI素养教育的缺失，并直言模型提供方与公众的利益并不完全一致。“更有希望的解决方式，可能是在教育层面进行干预。”他尤其担心伴随AI系统成长的儿童——成年人还能依靠过去的学习经历保留一定批判性思维，但对那些从出生就浸泡在AI环境里的孩子来说，连最基础的批判思考能力都可能来不及建立。
当AI越来越像一本永远有话说的百科全书，说“我不知道”反而变成一种稀缺品质。这项研究用一个极端简化的实验，照见了人机协作中那个被忽视的角落：并不是每一次求助都通向更准确的答案，它也可能只是让错误被包裹在更高的置信度里，继续流转。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
