北京
青年群体是智能媒介最活跃的使用者与共生者。然而，笔者的一项国家社科基金项目中的最新调研数据发现，一种人机关系异化现象——“信任幻觉”正在悄然蔓延：62.2%的青年用户倾向于将智能终端视为生活伙伴，近六成用户将其定义为智能助手。这标志着人机关系正经历从自动化向自主化的范式变革。所谓“信任幻觉”，一是技术本体层面的AI幻觉，即大模型基于概率预测产生看似逻辑自洽实则违背事实的虚假信息；二是用户主体层面的过度信任，即用户对智能体产生了超越其技术边界的心理依赖。这种异化体现为功能性依赖引发的认知卸载、人机互动的拟人化陷阱、客观能力的误判。
“信任幻觉”对于青年个体而言，最直接的后果就是批判力和创造力的削弱；对于社会而言，可能加剧数智鸿沟，也带来了隐私泄露、算法偏见以及公共意见同质化等问题。我们的应对策略需多管齐下：
第一，强化技术本体的去伪存真能力。推进语料数据库的标准化建设，从源头阻断脏数据污染；持续优化训练模型，引入事实核查机制降低AI幻觉概率；提高AI推理过程的透明度与可解释性，打破算法黑箱。
第二，提升主体层面的数智批判素养，积极引导青年深刻理解生成式人工智能的统计学本质与局限性，培养对算法输出内容的质疑态度与核查能力，在人机协作中始终保持人类的主体性地位。
第三，完善制度层面的规范与伦理约束。从国家政策层面加快完善伦理规范与法律法规，明确多主体责任边界，建立权威的算法审查与监管体系。
（作者系北京邮电大学数字媒体与设计艺术学院副教授、硕士生导师）
来源：中国青年报
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
