网易首页 > 网易号 > 正文 申请入驻

当AI成为人类确认自我的“参照者”,要警惕技术对情感的操控

0
分享至

人工智能(AI)会给人类最隐秘的精神世界带来什么改变?有哪些新情况是需要警惕的?近日,由天桥脑科学研究院与国家精神疾病医学中心/上海市精神卫生中心主办的2025人工智能与精神健康生态大会上,围绕技术、伦理与人文关怀的深度探讨引发关注。

作为本次大会的重要组成,“人工智能在精神健康领域应用的伦理考量”分论坛汇聚了政策、技术、哲学与人类学等多领域人士。在人机关系与哲学反思层面,分论坛探讨了生成式AI带来的“人工亲密关系”与主体性危机。随着AI逐渐成为人类确认自我的“参照者”,业界需警惕技术对情感的操控与异化。

还有专家谈到,尽管AI在逻辑推理上日益强大,但因缺乏人类特有的“脆弱性”与“道德情感”,其无法具备真正的实践理性。因此,AI应被严格定位为增强人类自主性的辅助工具,而非独立的道德主体。技术不应替代真实的人际连接与社会支持,必须在“算法效率”与“人文温度”之间寻找平衡。论坛达成共识:技术创新必须与伦理治理同步,“慢一步”的审慎思考是为了未来走得更远、更稳。

会议首次打通学术研究、临床应用、产业投资与伦理治理的闭环,标志着AI赋能精神健康从单点技术突破迈向生态化集群发展新阶段。

国家精神疾病医学中心主任、上海市精神卫生中心院长赵敏教授称,今年是国家“人工智能+”行动计划与国家卫健委“儿科与精神卫生服务年”的交汇点。上海市精神卫生中心已将数字化与智慧化作为“十五五”规划的重点,通过建设精神科问诊语音数据库等举措,致力于打造从研究到转化的AI医疗生态。

主论坛上,哈尔滨工业大学秦兵教授带来“大模型情感感知与认知调控”的新进展。通过多智能体协作模拟专家会诊,他们开发了面向青少年的共情对话系统和面向医疗问诊的巧环系统,实现从被动回应转到主动认知干预。

清华大学黄民烈教授介绍了基于大模型的心理访谈系统,该团队开发的“聆心智能体”已在全国多校落地,4天内完成15万人的心理筛查,并成功识别出潜在危机案例。他提出的“AI双师课堂”模式,利用AI辅助教师进行个性化心理教学,解决心理服务资源稀缺与分配不均的难题。

天桥脑科学研究院创始人雒芊芊在开幕致辞中回顾了研究院与上海市精神卫生中心自2021年共建人工智能与精神健康前沿实验室以来的合作历程,重点介绍了“灵溪”项目新进展:该项目已采集超过5000例抑郁焦虑真实问诊音频数据,开发的AI模型情绪识别准确率近90%,综合诊断准确率接近80%。

上海市精神卫生中心陈剑华教授解析了“灵溪”项目在多模态诊疗模型上的突破。该项目基于真实的临床问诊对话数据,构建了融合基于大语言模型的文本症状特征提取与声学特征等的可解释性统计模型。他特别提出了大语言模型精神科问诊中的症状与共情本体双轨框架,不仅关注精准的症状识别,更引入了情感支持与共情表达维度,显著提升AI在复杂诊疗场景中的可靠性。他强调,AI的定位是超级辅助,而非完全替代人类医生的情感关怀。

专家们还围绕“诊疗模型开发中的价值对齐及其伦理考量”展开激烈交锋。专家认为,精神健康领域存在“小市场、大需求”的矛盾。讨论特别强调了价值对齐的重要性——AI不仅要理解医学知识,更要理解人类的情感与社会文化背景,避免在互动中产生误导或成瘾依赖。

本次大会不仅是学术盛宴,更是生态和产业的催化剂。作为大会的重点创新单元,首届“人工智能与精神健康合成数据大赛”吸引全国110多支团队参与。分会场活动上,来自AI智能体、AI预问诊、AI陪伴、数字疗法等多个赛道的创业团队进行路演。投资机构负责人与医疗专家共同评审,旨在加速科研成果落地转化。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
尺度真大,罗晋新剧《无声的回响》首播观众用10字点评,一针见血

尺度真大,罗晋新剧《无声的回响》首播观众用10字点评,一针见血

骄阳之夏明
2026-11-21 05:49:41
A10后备厢被几箱啤酒压穿?零跑:受损部件为后备厢盖板下方独立储物盒

A10后备厢被几箱啤酒压穿?零跑:受损部件为后备厢盖板下方独立储物盒

界面新闻
2026-11-21 09:48:22
郎平接受鲁豫专访,自曝颈椎、髋关节、膝关节全都换了;现在是钓鱼高手,从不“空军”;盛赞在《夺冠》中演郎平的巩俐“演得非常像”

郎平接受鲁豫专访,自曝颈椎、髋关节、膝关节全都换了;现在是钓鱼高手,从不“空军”;盛赞在《夺冠》中演郎平的巩俐“演得非常像”

极目新闻
2026-11-20 19:43:20
前世界冠军复出夺冠:还是很多人瞧不起我

前世界冠军复出夺冠:还是很多人瞧不起我

中国新闻周刊
2026-11-21 13:07:13
曼联vs利物浦:单侧双边锋,利物浦强攻左路,波切蒂诺首战咋办

曼联vs利物浦:单侧双边锋,利物浦强攻左路,波切蒂诺首战咋办

卡灵顿分析师
2026-11-21 20:49:49
1985年,六十岁的波尔布特强娶二十岁的密松,丛林深处这场畸形婚姻背后,权力游戏的残酷远超你的想象

1985年,六十岁的波尔布特强娶二十岁的密松,丛林深处这场畸形婚姻背后,权力游戏的残酷远超你的想象

唠叨说历史
2026-11-21 17:42:29
IGN:《GTA6》高人气美女很恐怖!杰森躲过一劫

IGN:《GTA6》高人气美女很恐怖!杰森躲过一劫

游民星空
2026-11-20 12:11:29
世界最大驱逐舰,要开工了?

世界最大驱逐舰,要开工了?

晋说
2026-11-21 12:37:59
曾率海港夺中超冠军!曝60岁名帅被推荐给蓉城 与郑智李霄鹏竞争

曾率海港夺中超冠军!曝60岁名帅被推荐给蓉城 与郑智李霄鹏竞争

我爱英超
2026-11-21 17:13:47
钱再多有什么用?被送进急救的于和伟,给所有男明星提了个醒

钱再多有什么用?被送进急救的于和伟,给所有男明星提了个醒

云舟史策
2026-11-19 07:13:32
局势彻底变天了!54年来头一遭,打破美国总统常规,特朗普在深圳究竟看到了什么?引发舆论热议!

局势彻底变天了!54年来头一遭,打破美国总统常规,特朗普在深圳究竟看到了什么?引发舆论热议!

林杰论事
2026-11-20 12:42:26
西部排名又乱了:湖人冲到第1,勇士掉到第11,七队排名互换

西部排名又乱了:湖人冲到第1,勇士掉到第11,七队排名互换

篮球大视野
2026-11-21 16:51:51
人有没有糖尿病看晨起就知道?糖尿病患者:晨起一般会有5个表现

人有没有糖尿病看晨起就知道?糖尿病患者:晨起一般会有5个表现

白宸侃片
2026-11-21 07:32:32
宁愿把80%石油绕远送欧洲,也不愿就近多给中国,到底图什么?

宁愿把80%石油绕远送欧洲,也不愿就近多给中国,到底图什么?

慕名而来只为你
2026-11-19 21:45:20
退休人员注意!若2026年养老金调整,事退人员能轻松涨 120 元吗

退休人员注意!若2026年养老金调整,事退人员能轻松涨 120 元吗

社保小达人
2026-11-21 10:07:29
山西运城一业主因家里暖气不热给暖气片排气,结果水流瞬间喷涌而出;妻子:暖气上阀门生锈,幸好丈夫几秒内关住总阀门,未造成损失

山西运城一业主因家里暖气不热给暖气片排气,结果水流瞬间喷涌而出;妻子:暖气上阀门生锈,幸好丈夫几秒内关住总阀门,未造成损失

台州交通广播
2026-11-21 06:50:31
林依轮给儿子买房子,儿子节目说谎了,婚后公婆全款买房不归儿媳

林依轮给儿子买房子,儿子节目说谎了,婚后公婆全款买房不归儿媳

椰黄娱乐
2026-11-21 14:47:38
陆毅说:“如果我女儿的男朋友很上进,但家境一般,我可能会棒打鸳鸯。因为我觉得门当户对很重要,婚姻要得到双方父母的祝福,才会幸福”

陆毅说:“如果我女儿的男朋友很上进,但家境一般,我可能会棒打鸳鸯。因为我觉得门当户对很重要,婚姻要得到双方父母的祝福,才会幸福”

品读时刻
2026-11-19 09:05:14
女子花近2万元储存脐带血遭遇公司注销“断联” 当事人:脐带血还在不在?

女子花近2万元储存脐带血遭遇公司注销“断联” 当事人:脐带血还在不在?

封面新闻
2026-11-21 10:58:02
峰会现场火药味十足!泽连斯基追问美国:北约第5条到底管不管用

峰会现场火药味十足!泽连斯基追问美国:北约第5条到底管不管用

军情观察家
2026-11-21 13:10:14
2026-11-21 21:11:00
文汇报 incentive-icons
文汇报
华语世界高品质人文阅读平台
294796文章数 310337关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

电动摩托车爆燃致5人遇难 调查组:建议不追究车主刑责

头条要闻

电动摩托车爆燃致5人遇难 调查组:建议不追究车主刑责

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

虞书欣擦边自拍、霸凌同事、媒体点名?

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

本地
房产
家居
数码
公开课

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

天钡G-FLIP迷你主机新增AMD R7 H 255 + 24G + 1T版本,4599元

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版