山东
IT之家 6 月 19 日消息，据英国《卫报》19 日报道，麻省理工学院的最新研究发现，过度依赖聊天机器人可能削弱批判性思维，甚至让人们越来越难以独立辨别错误信息。
随着 AI 工具不断进步并加速普及，经过篡改的图片和误导性标题也变得更加常见。研究显示，人们如果长期依靠 AI 判断网络信息真伪，独立判断能力反而可能逐渐退化。
这项研究于 4 月发布，持续四周，共有 67 人参加。研究人员让参与者判断多组新闻标题和图片是否真实。结果显示，Claude 和 ChatGPT 等 AI 助手能够提高假新闻识别准确率，但参与者越依赖 AI，独自识别错误信息时的表现就越差。
研究人员还发现，面对新闻标题和图片时，AI 往往更重视直接给出正确答案，而不是帮助用户形成自己的思考过程。研究认为，这种使用方式可能在短期内提高准确率，却在长期内削弱判断力。
麻省理工学院博士生、研究共同主要作者 Anku Rani 表示，人们在使用 AI 时，容易产生能力正在提高的错觉，“当我们与 AI 互动时，会感觉自己在某些任务上变得更好了，但已有足够多的研究表明，实际情况并不是这样。”
研究期间，参与者需要分别在有无 AI 帮助的情况下，判断新闻和图片是否造假。实验使用的 AI 助手基于 GPT-4o，并接入谷歌搜索。聊天机器人不会只给出结论，也可以提示用户查找线索。例如，在一组测试中，AI 建议参与者仔细查看警徽，因为警徽细节暴露了图片造假。
研究人员一方面评估 AI 能否帮助参与者作出正确判断，另一方面也追踪其独立判断能力是否发生变化。结果显示，AI 带来的帮助和代价同时存在。借助 AI 后，参与者作出正确判断的概率提高 21%；到实验第四周，在没有 AI 帮助的情况下判断新图片时，参与者的表现下降了 15.3%。研究指出：AI 可能会立即提供帮助，最终却可能削弱人们长期识别错误信息的能力。
对技术依赖削弱人类能力的担忧早已存在。计算器可能让人疏于心算，GPS 也可能让人失去独立辨认路线的能力。2025 年《柳叶刀》发表的一项研究还发现，长期使用 AI 分类工具检测癌症的医生，独立诊断能力最终有所下降。元科学研究机构 Possibility Institute 的一名神经科学家最近也警告，长期把大量思考任务交给 AI，可能削弱大脑抵御失智症的能力。
麻省理工学院的研究还显示，AI 如何与用户互动同样重要。直接告诉用户答案，和通过追问引导用户思考，会产生不同结果。用户往往希望聊天机器人迅速提供明确答案，然而真正有助于批判性思维的，或是更细致、更具引导性的提问过程。
研究指出，面对直接告诉自己该怎么做的 AI 系统，参与者往往会选择服从，因为系统“听起来知识渊博”。约四分之一参与者认为自己的识别能力正在提高，实际表现却已经变差。
IT之家注：这项研究也存在明显局限。参与者主要来自美国和英国，尚不足以证明同样的能力退化会出现在所有文化背景和教育体系中。研究时间也只有四周，未来还需要更长期的实验，观察过度依赖 AI 的影响是否会持续扩大，以及变化速度是否保持不变。
研究人员表示，随着教育工作者越来越多地把 AI 用作学习工具，这些发现尤其值得重视。普通公众同样需要警惕，因为网络上充斥着新闻、热传图片、医疗说法和政治传言等真假难辨的信息。“AI 日益先进，确保这些工具能够培养批判性思维，而不是造成认知依赖，对于维持公众抵御错误信息的能力至关重要。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
