“Deepseek乱编”坑惨大学生？这个话题上热搜！

在知识爆炸与技术日新月异的今天，人工智能（AI）已经渗透到我们生活的方方面面，从日常的家务助手到高端的科研辅助，AI的身影无处不在。然而，随着其应用的广泛深入，一个不容忽视的问题逐渐浮出水面——AI幻觉。3月28日，话题#防止DeepSeek乱编文献的方法#冲上热搜，再次将公众的目光聚焦于这一现象。众多学者、研究者以及普通用户纷纷分享自己在使用AI工具写论文时“被坑”的经历，那些看似逻辑严密、内容丰富的答案，在深入核实后往往被证实为虚构的信息。AI幻觉，这一看似矛盾却又真实存在的现象，正悄然改变着我们的知识获取方式与思维习惯。

AI幻觉，简而言之，就是AI在生成内容时，会创造出看似合理但实际上并不存在的信息。这种现象的成因复杂多样，既有基于统计关系的预测偏差，也有训练数据的局限性所导致的问题。过拟合问题更是让AI对训练数据中的噪声过于敏感，从而在生成内容时容易偏离真实轨道。此外，有限的上下文窗口以及追求生成流畅回答的设计，也使得AI在构建逻辑链条时容易“误入歧途”。

近日，中国青年报邀请了3位专家学者，一起聊聊技术浪潮中如何守护年轻人的思辨能力。

对于学术界而言，AI幻觉带来的危害尤为严重。中国人民大学新闻学院教授卢家银指出，AI生成的虚假学术成果，不仅可能扭曲青年学者对科学方法论的理解，还可能削弱他们通过“假设-验证”过程进行科研逻辑训练的能力。在思维发展层面，AI谣言通过算法推荐的“信息茧房”形成逻辑闭环，进一步加剧了批判性思维的缺失，使得年轻人在面对复杂信息时难以保持独立思考与判断。

面对这一挑战，北京师范大学教育学部教授、教育技术学北京市重点实验室副主任李艳燕提出了一个富有启发性的观点：将AI视为一位平等对话的智者。通过与AI的对话互动，年轻人可以促进个体思维链的形成，并在这一过程中校准认知偏差。这种去权威化的思辨训练，有助于年轻人在与AI的交流中保持清醒的头脑，实现认知的跃迁。

北京邮电大学马克思主义学院副教授宋林泽则强调了验证过程的重要性。他认为，AI输出的内容仅仅是一个认知的起点，而非终点。大学生需要主动地去验证AI提供的信息，比如通过查阅权威来源、对比不同观点，甚至直接与领域内的专家进行交流。这种验证不仅有助于更全面地理解问题，还能提升在面对复杂信息时的判断力。

那么，具体而言，我们应该如何应对AI幻觉呢？AI工具研究者田威给出了实用的建议。他强调，提问方式在获取准确答案中起着至关重要的作用。与AI交流时，我们需要明确而具体，避免提出模糊或开放性的问题。提问越具体、清晰，AI的回答就越准确。为了降低AI虚构文献的风险，他总结了四种有效的提问技巧：

1. 设定边界：在提问时明确限定信息的来源范围，比如要求AI仅基于特定年份或特定机构的公开文档进行回答。

2. 标注不确定：对于模糊或推测性的信息，要求AI在回答时明确标注，以便读者能够区分哪些内容是确定的，哪些则是基于推测的。

3. 步骤拆解：将复杂问题拆解为多个简单步骤，要求AI先列举确定的事实依据，再展开详细分析。这种方法有助于读者更好地理解问题的本质，并避免被AI的“跳跃性思维”所误导。

4. 明确约束：在提问时明确告诉AI，要求其仅基于已有事实进行回答，不要进行任何推测或假设。这种约束有助于确保AI提供的答案是基于可靠信息的。

除了以上技巧外，田威还提到了指令约束、工具验证和人工审核三重保障措施。其中，“人工审核”被放在了“最后防线”的重要位置。尽管AI在数据处理和生成方面展现出了惊人的能力，但在确保信息的真实性和准确性方面，人类的智慧与经验仍然是不可或缺的。

当然，我们也不必过分担心AI幻觉带来的负面影响。有时候，与其将其视为缺陷，不如将其看作创意的源泉。在写作、艺术创作或头脑风暴时，AI的“跳跃性思维”反而可能激发我们的灵感，帮助我们打开新世界的大门。正如任何工具都有其两面性一样，AI幻觉也不例外。关键在于我们如何正确地使用它，以最大化其正面效应并最小化其负面影响。

在这个AI与人类共同进步的时代，我们不应该责备AI的不完美，而应该学会与之更好地协作。通过不断优化提问方式、加强验证过程以及充分利用人工审核等保障措施，我们可以有效地降低AI幻觉带来的风险，并充分发挥AI在知识获取与思维发展方面的积极作用。最终，这将有助于我们构建一个更加开放、包容且充满创新活力的知识体系与社会环境。