浙江
法国与意大利的研究人员近日发布的一项实验研究表明，过度依赖人工智能（AI）提供的建议会抑制人类的批判性思维，使人们在面对不确定的问题时，更倾向于盲目采信AI给出的错误信息，而不愿承认自己“不知道”。
为了探究AI建议如何影响人类承认无知的意愿，米兰比可卡大学的副教授瓦莱里奥·卡普拉罗（Valerio Capraro）与其合作者进行了这项研究。研究人员专门设计了一系列大型语言模型通常难以回答的冷门影视细节问题，并招募了受试者进行对比实验。在一组实验中，受试者在没有AI辅助的情况下答题；在另一组实验中，受试者可以获取AI的建议。
研究发现，在没有AI辅助的基准组中，有44%的参与者能够诚实地选择“不知道”，从而选择暂停判断；然而，在获得AI建议的组别中，这一比例骤降至3%。更令人担忧的是，AI的介入不仅没能提升表现，反而导致准确率下降：在没有AI辅助时，27%的受试者给出了正确答案；而当AI提供建议后，由于参与者过度信任AI的回答，正确率反而跌至9%。
此外，实验结果显示，AI辅助显著拉高了受试者的自信心。在没有AI的情况下，受试者的平均自信度为30%；而在有AI协助时，即便面对的是错误信息，受试者的自信度却飙升至76%。研究人员指出，参与者在AI面前放弃了对自身知识边界的判断，即便他们所获取的信息往往是AI产生的“幻觉”。
研究人员还测试了在给予货币激励的情况下，这一情况是否有所改善。结果显示，虽然承认无知的意愿从3%小幅回升至8%，准确率也从9%提高到16%，但这两项指标依然远低于基准组。
卡普拉罗表示，承认“不知道”是人类认识自我知识局限性的重要体现，而这种能力的丧失是一个亟待在社会层面解决的问题。他强调，这一现象不应仅仅依赖模型提供商来干预，因为其商业激励机制未必与提升批判性思维相符。他认为更理想的路径是通过教育政策和AI素养教育来应对，尤其是对于那些伴随这些系统成长、可能无法学会基本批判技能的下一代，这一问题尤为值得关注。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
