当AI成为人类确认自我的“参照者”，要警惕技术对情感的操控

人工智能（AI）会给人类最隐秘的精神世界带来什么改变？有哪些新情况是需要警惕的？近日，由天桥脑科学研究院与国家精神疾病医学中心/上海市精神卫生中心主办的2025人工智能与精神健康生态大会上，围绕技术、伦理与人文关怀的深度探讨引发关注。

作为本次大会的重要组成，“人工智能在精神健康领域应用的伦理考量”分论坛汇聚了政策、技术、哲学与人类学等多领域人士。在人机关系与哲学反思层面，分论坛探讨了生成式AI带来的“人工亲密关系”与主体性危机。随着AI逐渐成为人类确认自我的“参照者”，业界需警惕技术对情感的操控与异化。

还有专家谈到，尽管AI在逻辑推理上日益强大，但因缺乏人类特有的“脆弱性”与“道德情感”，其无法具备真正的实践理性。因此，AI应被严格定位为增强人类自主性的辅助工具，而非独立的道德主体。技术不应替代真实的人际连接与社会支持，必须在“算法效率”与“人文温度”之间寻找平衡。论坛达成共识：技术创新必须与伦理治理同步，“慢一步”的审慎思考是为了未来走得更远、更稳。

会议首次打通学术研究、临床应用、产业投资与伦理治理的闭环，标志着AI赋能精神健康从单点技术突破迈向生态化集群发展新阶段。

国家精神疾病医学中心主任、上海市精神卫生中心院长赵敏教授称，今年是国家“人工智能+”行动计划与国家卫健委“儿科与精神卫生服务年”的交汇点。上海市精神卫生中心已将数字化与智慧化作为“十五五”规划的重点，通过建设精神科问诊语音数据库等举措，致力于打造从研究到转化的AI医疗生态。

主论坛上，哈尔滨工业大学秦兵教授带来“大模型情感感知与认知调控”的新进展。通过多智能体协作模拟专家会诊，他们开发了面向青少年的共情对话系统和面向医疗问诊的巧环系统，实现从被动回应转到主动认知干预。

清华大学黄民烈教授介绍了基于大模型的心理访谈系统，该团队开发的“聆心智能体”已在全国多校落地，4天内完成15万人的心理筛查，并成功识别出潜在危机案例。他提出的“AI双师课堂”模式，利用AI辅助教师进行个性化心理教学，解决心理服务资源稀缺与分配不均的难题。

天桥脑科学研究院创始人雒芊芊在开幕致辞中回顾了研究院与上海市精神卫生中心自2021年共建人工智能与精神健康前沿实验室以来的合作历程，重点介绍了“灵溪”项目新进展：该项目已采集超过5000例抑郁焦虑真实问诊音频数据，开发的AI模型情绪识别准确率近90%，综合诊断准确率接近80%。

上海市精神卫生中心陈剑华教授解析了“灵溪”项目在多模态诊疗模型上的突破。该项目基于真实的临床问诊对话数据，构建了融合基于大语言模型的文本症状特征提取与声学特征等的可解释性统计模型。他特别提出了大语言模型精神科问诊中的症状与共情本体双轨框架，不仅关注精准的症状识别，更引入了情感支持与共情表达维度，显著提升AI在复杂诊疗场景中的可靠性。他强调，AI的定位是超级辅助，而非完全替代人类医生的情感关怀。

专家们还围绕“诊疗模型开发中的价值对齐及其伦理考量”展开激烈交锋。专家认为，精神健康领域存在“小市场、大需求”的矛盾。讨论特别强调了价值对齐的重要性——AI不仅要理解医学知识，更要理解人类的情感与社会文化背景，避免在互动中产生误导或成瘾依赖。

本次大会不仅是学术盛宴，更是生态和产业的催化剂。作为大会的重点创新单元，首届“人工智能与精神健康合成数据大赛”吸引全国110多支团队参与。分会场活动上，来自AI智能体、AI预问诊、AI陪伴、数字疗法等多个赛道的创业团队进行路演。投资机构负责人与医疗专家共同评审，旨在加速科研成果落地转化。