网易首页 > 网易号 > 正文 申请入驻

当AI成为人类确认自我的“参照者”,要警惕技术对情感的操控

0
分享至

人工智能(AI)会给人类最隐秘的精神世界带来什么改变?有哪些新情况是需要警惕的?近日,由天桥脑科学研究院与国家精神疾病医学中心/上海市精神卫生中心主办的2025人工智能与精神健康生态大会上,围绕技术、伦理与人文关怀的深度探讨引发关注。

作为本次大会的重要组成,“人工智能在精神健康领域应用的伦理考量”分论坛汇聚了政策、技术、哲学与人类学等多领域人士。在人机关系与哲学反思层面,分论坛探讨了生成式AI带来的“人工亲密关系”与主体性危机。随着AI逐渐成为人类确认自我的“参照者”,业界需警惕技术对情感的操控与异化。

还有专家谈到,尽管AI在逻辑推理上日益强大,但因缺乏人类特有的“脆弱性”与“道德情感”,其无法具备真正的实践理性。因此,AI应被严格定位为增强人类自主性的辅助工具,而非独立的道德主体。技术不应替代真实的人际连接与社会支持,必须在“算法效率”与“人文温度”之间寻找平衡。论坛达成共识:技术创新必须与伦理治理同步,“慢一步”的审慎思考是为了未来走得更远、更稳。

会议首次打通学术研究、临床应用、产业投资与伦理治理的闭环,标志着AI赋能精神健康从单点技术突破迈向生态化集群发展新阶段。

国家精神疾病医学中心主任、上海市精神卫生中心院长赵敏教授称,今年是国家“人工智能+”行动计划与国家卫健委“儿科与精神卫生服务年”的交汇点。上海市精神卫生中心已将数字化与智慧化作为“十五五”规划的重点,通过建设精神科问诊语音数据库等举措,致力于打造从研究到转化的AI医疗生态。

主论坛上,哈尔滨工业大学秦兵教授带来“大模型情感感知与认知调控”的新进展。通过多智能体协作模拟专家会诊,他们开发了面向青少年的共情对话系统和面向医疗问诊的巧环系统,实现从被动回应转到主动认知干预。

清华大学黄民烈教授介绍了基于大模型的心理访谈系统,该团队开发的“聆心智能体”已在全国多校落地,4天内完成15万人的心理筛查,并成功识别出潜在危机案例。他提出的“AI双师课堂”模式,利用AI辅助教师进行个性化心理教学,解决心理服务资源稀缺与分配不均的难题。

天桥脑科学研究院创始人雒芊芊在开幕致辞中回顾了研究院与上海市精神卫生中心自2021年共建人工智能与精神健康前沿实验室以来的合作历程,重点介绍了“灵溪”项目新进展:该项目已采集超过5000例抑郁焦虑真实问诊音频数据,开发的AI模型情绪识别准确率近90%,综合诊断准确率接近80%。

上海市精神卫生中心陈剑华教授解析了“灵溪”项目在多模态诊疗模型上的突破。该项目基于真实的临床问诊对话数据,构建了融合基于大语言模型的文本症状特征提取与声学特征等的可解释性统计模型。他特别提出了大语言模型精神科问诊中的症状与共情本体双轨框架,不仅关注精准的症状识别,更引入了情感支持与共情表达维度,显著提升AI在复杂诊疗场景中的可靠性。他强调,AI的定位是超级辅助,而非完全替代人类医生的情感关怀。

专家们还围绕“诊疗模型开发中的价值对齐及其伦理考量”展开激烈交锋。专家认为,精神健康领域存在“小市场、大需求”的矛盾。讨论特别强调了价值对齐的重要性——AI不仅要理解医学知识,更要理解人类的情感与社会文化背景,避免在互动中产生误导或成瘾依赖。

本次大会不仅是学术盛宴,更是生态和产业的催化剂。作为大会的重点创新单元,首届“人工智能与精神健康合成数据大赛”吸引全国110多支团队参与。分会场活动上,来自AI智能体、AI预问诊、AI陪伴、数字疗法等多个赛道的创业团队进行路演。投资机构负责人与医疗专家共同评审,旨在加速科研成果落地转化。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
菲副总统弹劾炸锅!军方放话全播死亡威胁

菲副总统弹劾炸锅!军方放话全播死亡威胁

健身狂人
2026-07-13 13:26:44
5岁女儿也受到死亡威胁!美媒:哥伦比亚球员坎帕斯目前已下落不明

5岁女儿也受到死亡威胁!美媒:哥伦比亚球员坎帕斯目前已下落不明

新杀猪的秀才
2026-07-13 01:49:32
萨拉案底全被公开!菲参院连夜上线弹劾黑料,副总统这下彻底露底

萨拉案底全被公开!菲参院连夜上线弹劾黑料,副总统这下彻底露底

補懂事的孩紙
2026-07-13 11:28:56
乌媒:面临反腐败部门调查,乌克兰驻美国大使向泽连斯基提交辞呈

乌媒:面临反腐败部门调查,乌克兰驻美国大使向泽连斯基提交辞呈

环球网资讯
2026-07-13 16:50:14
我国癌症高发,都是包子惹得祸?提醒:这6种食品才是最差的早餐

我国癌症高发,都是包子惹得祸?提醒:这6种食品才是最差的早餐

荆医生科普
2026-06-18 12:00:32
离得近就算拥有?新华社发布动画寓言:“按你的逻辑,那我岂不是也能把你算成我的?”

离得近就算拥有?新华社发布动画寓言:“按你的逻辑,那我岂不是也能把你算成我的?”

政知新媒体
2026-07-12 21:25:52
央媒点名不到24小时,彭女士再迎三大噩耗,停职只是一个开始

央媒点名不到24小时,彭女士再迎三大噩耗,停职只是一个开始

叨唠
2026-07-13 02:19:41
奖金缩水一半!辛纳高额奖金遭遇英国税收大幅扣除

奖金缩水一半!辛纳高额奖金遭遇英国税收大幅扣除

网球之家
2026-07-13 14:22:59
日本防相小泉出轨已婚少妇,不想家中老婆更风流,曾与外国人拍片

日本防相小泉出轨已婚少妇,不想家中老婆更风流,曾与外国人拍片

往史过眼云烟
2026-07-09 21:59:41
前线国门紧闭,后方门户洞开?为何中国对印度移民大开方便之门?

前线国门紧闭,后方门户洞开?为何中国对印度移民大开方便之门?

静夜史君
2026-06-17 01:15:26
日本官宣!中国锋线加盟

日本官宣!中国锋线加盟

刺猬篮球
2026-07-13 14:04:35
她是毛新宇二婚妻子,被邵华一眼相中,结婚26年为毛家生一儿一女

她是毛新宇二婚妻子,被邵华一眼相中,结婚26年为毛家生一儿一女

她时尚丫
2026-06-17 20:52:21
47岁马宁无缘主哨世界杯淘汰赛!落选FIFA剩余裁判名单 本届2破纪录

47岁马宁无缘主哨世界杯淘汰赛!落选FIFA剩余裁判名单 本届2破纪录

风过乡
2026-07-13 11:57:31
河南的最高礼仪给谢霆锋整不会了

河南的最高礼仪给谢霆锋整不会了

可乐谈情感
2026-07-13 14:30:22
明晚中国女篮对阵西班牙,赛前传来5好1坏消息,李沅珊状态火热

明晚中国女篮对阵西班牙,赛前传来5好1坏消息,李沅珊状态火热

生活新鲜市
2026-07-13 13:19:23
世联赛疯狂一夜!总决赛对阵出炉,意大利好签,中国女排机会来了

世联赛疯狂一夜!总决赛对阵出炉,意大利好签,中国女排机会来了

海阔山遥YAO
2026-07-13 13:46:31
广东宏远传来3大消息,朱芳雨,崔永熙在列,徐杰回国送别杜峰

广东宏远传来3大消息,朱芳雨,崔永熙在列,徐杰回国送别杜峰

晚雾空青
2026-07-13 12:08:53
阿斯报:B席的世界杯表现令人失望,在皇马的角色也不明确

阿斯报:B席的世界杯表现令人失望,在皇马的角色也不明确

兰亭墨未干
2026-07-13 16:19:05
“清华毒硕士”赵通,手把手教美国,如何瓦解大陆统一台湾的意志

“清华毒硕士”赵通,手把手教美国,如何瓦解大陆统一台湾的意志

一曲一场談
2026-07-09 02:03:38
70万美金到手!两任伴侣接连惨死,美国男子被捕后曝出冷血真相?

70万美金到手!两任伴侣接连惨死,美国男子被捕后曝出冷血真相?

阿尺量世界
2026-07-13 16:29:52
2026-07-13 19:03:00
文汇报 incentive-icons
文汇报
华语世界高品质人文阅读平台
283228文章数 310157关注度
往期回顾 全部

科技要闻

OpenAI与Anthropic互掐,最强AI也怕你不用

头条要闻

晋江鞋厂火灾楼顶蓄水池捞出多具遗体 水池仅十几平米

头条要闻

晋江鞋厂火灾楼顶蓄水池捞出多具遗体 水池仅十几平米

体育要闻

世界杯月赚1.7亿,51岁的他仍是顶流

娱乐要闻

具俊晔“深情人设”崩塌,遗产瓜开撕

财经要闻

SK海力士暴跌15%原因找到了?

汽车要闻

小米澎程N90 Max工信部信息曝光 全尺寸旗舰 露营版首秀

态度原创

手机
亲子
艺术
数码
家居

手机要闻

消息称三星Galaxy Z TriFold 2三折叠手机将延后上市

亲子要闻

一岁多双胞胎宝宝把婴儿床当玩耍的地盘,兄弟俩为争地盘互不相让

艺术要闻

敦煌挖出王羲之失传行书!比《圣教序》还要早300年,足以改写书法史

数码要闻

宏碁2026Q2营收852.96亿新台币,创近13年同期新高

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版