新闻分析｜警惕“AI依赖”　人机共生时代如何保持独立思考

　　新华社北京10月28日电　新闻分析｜警惕“AI依赖”　人机共生时代如何保持独立思考
　　新华社记者彭茜
　　近日，美国斯坦福大学研究人员策划了全球首个以人工智能（AI）为核心作者与论文评审的线上开放会议。主办方称，此次会议旨在创建一个“相对安全的试验场”，探索AI是否及如何能独立产生新颖的科学见解、假设与方法论等。
　　如今，AI已成为我们工作生活的好帮手，但它同时也在提供一种“认知捷径”，让人们不用费力思考便能得到想要的答案。一开始只是查询信息、翻译文字，慢慢开始利用AI辅助写邮件、工作总结、研究论文，甚至进行重要决策……过度依赖AI，利用其进行“思维外包”，有可能让我们日渐丧失思维的主导权。
　　人机共生时代，人类如何保持独立思考呢？

　　　　　　AI“思维外包”藏隐忧

　　正如上述会议所探讨的，大模型、智能体等AI应用已在包括科研在内的多领域广泛赋能人类生产生活，促进学术研究和生产生活提质增效，但其带来的技术红利之下也暗藏隐忧。一些新研究显示，过度依赖AI模型或可引发“AI脑雾”，削弱工作动力。
　　美国麻省理工学院研究显示，长期使用AI会导致认知能力下降。研究人员对受试者展开脑电图扫描后发现，与没有使用AI工具的人相比，长期使用AI大语言模型的人大脑神经连接数降低，影响语言和行为等层面。微软和卡内基－梅隆大学的研究也有类似发现，生成式AI会削弱批判性思维能力，导致过度依赖，可能削弱人们独立解决问题的能力。
　　研究人员认为，开发者在设计生成式AI工具时，应有支持用户提升批判性思维的意识，如提示需验证的场景。特别是在设计法律文书、医疗建议等高风险任务时，应强制弹出验证提醒（如“请核对AI引用的法规条款”）等，标注潜在风险，打破用户对AI“全知全能”的认知偏差。
　　浙江大学管理学院吴苏青团队今年在英国《科学报告》杂志发表的研究还显示，AI的应用带来认知需求的“空心化”。当AI完成工作的“烧脑”部分，人类仅剩机械性执行，工作沦为“被动填空”，就可能会导致心理疏离，丧失工作动力。这就要求企业、政府部门等部署AI时要“慢下脚步”，可先小范围试点、可控推进，边用边观察对员工积极性和创造力的影响。

　　　　　　人们为何“轻信”AI

　　人们之所以愈加依赖AI，源自于近年来AI专业化能力和交互便捷性的飞跃：其生成内容的专业化程度，让不少人把它奉为专家，而对话式的交互方式让它好似一位学识渊博又无话不谈的“好友”，更易让人形成心理依赖和信任。
　　如今，AI大模型“开箱即用”的便捷性，进一步降低了使用门槛。由于缺乏基本的AI素养教育，使用者对AI本身的技术缺陷认知不足，更容易“轻信”。英国高等法院今年6月就要求律师采取紧急行动，防止AI被滥用，原因是数份可能由AI生成的虚假案例引用被提交至法庭。而今年由美国卫生与公众服务部牵头，“让美国再次健康”委员会发布的儿童慢性病报告也因使用了生成式AI内容而出现重大引用错误。
　　荷兰阿姆斯特丹大学研究人员詹姆斯·皮尔逊说，AI显著推动了科研进程，如可用于绘制蛋白质结构、研发新型抗生素，还能加快文献综述等环节的进度等。但当AI产生的“幻觉”出现在论文评审或研究中时十分令人担忧，AI还可能带有其训练数据中蕴含的偏见，进而加剧种族、性别等不平等问题。
　　“我们在使用AI的同时，把判断力也一起外包了，不再去验证AI给出的答案，不再去反思使用AI的过程。无条件接受AI给的任何信息，就会导致人的主观能动性下降，深度的阅读思考和表达能力也会随之退化。”科幻作家、中国作协科幻文学委员会副主任陈楸帆接受新华社记者采访时说。

　　　　　　建立思维的“AI缓冲带”

　　未来，AI一定会更加深度嵌入我们的工作生活。在这个人机共生的新时代，与AI共处需要更智慧。美国AI教育公司Section 4首席执行官格雷格·肖夫预测，未来10年，使用AI的知识型劳动者将分化为两类群体：“AI乘客”与“AI驾驭者”。
　　“AI乘客”欣然将自身认知工作全权交由AI打理，短期内或因工作效率提升而获得认可。但随着AI能力的迭代，这些人终将被AI取代。而“AI驾驭者”则坚持主导AI的运作，把AI生成的内容当作初稿，对结果严格核查，有时还会关闭AI独立思考。
　　“我们需要在不同的学习和工作场景里，学会分辨哪些场景适合用AI，哪些场景需要人来进行有利辅助，判断和辨别AI给出的结果。”陈楸帆持同样观点。在他看来，人们应对自己的心智、认知掌握主动权，有意识地建立一个“AI缓冲带”，即面对新问题，先从自己的角度给出答案，再寻求AI的深化和扩充。
　　“我们甚至还可进行‘对抗性生成’，即当AI给出跟自己观点十分契合的答案时，应有批判性思维去质疑，到底是我被AI所影响，还是AI在我的不断训练下，变得越来越趋同？我们是否能跳出思维惯性做出不一样的选择，给出AI没想到的答案。”他说。（完）