AI如何守护人类健康？2025外滩大会热议医疗AI伦理

9月12日，2025 Inclusion·外滩大会上，信百会研究院、蚂蚁集团科技伦理委员会联合举办了以“AI向善·安全发展——大模型在严谨行业应用中的伦理与治理”为主题的见解论坛。中国社会科学院大学教授、国务院原副秘书长江小涓出席论坛，并发表“人工智能治理：如何从共识到行动”的主题演讲。

中国社会科学院大学教授、国务院原副秘书长江小涓

20多位来自学术界、产业界及监管机构的权威专家，围绕人工智能的伦理及治理、尤其是大模型在医疗等严谨行业的应用风险与规则指引展开了深度探讨，旨在推动技术创新与伦理规范的协同发展。

中国互联网协会副理事长、信百会成员黄澄清主持论坛

“尤其在医疗行业，AI的决策直接关乎生命健康与社会公平，数据滥用、算法偏见、责任模糊等问题亟待解决”，中国互联网协会副理事长、信百会成员黄澄清在论坛致辞中表示，构建可信、可靠、可追溯的AI治理体系，已成为技术发展的内在要求，也是社会责任的必然选择。

“人工智能为人类各领域的发展提供了丰富的视角和价值，但也正在冲击人类的主体地位”，中国工程院院士，同济大学党委书记郑庆华指出，AI与人类的价值对齐问题，是确保人工智能科技向善的根本。郑庆华院士认为，要通过强化学习让大模型学习人类的价值和偏好，来让人工智能对齐人类价值，创建安全、符合伦理的人工智能系统，并做好技术发展中的长期风险防控；同时人类也要对齐AI，核心是确保人们负责任地应用AI。

“全球的人工智能治理正走向促发展和柔性监管的方向，即建立一个敏捷的治理体系，以政策指引促进产业主动自律，以包容审慎的态度来构建负责任的人工智能安全体系”，中国信息通信研究院副院长魏亮介绍说，2025年7月《人工智能安全承诺》已有阿里巴巴、百度、蚂蚁集团等18家行业领军企业参与披露，形成了20条实践标签，43条安全案例，不仅推动我国人工智能安全治理迈入体系化、透明化、实操化的新阶段，也为全球贡献“以人为本、智能向善”的中国方案。

蚂蚁集团资深副总裁、科技伦理委员会联席主席周志峰

“从风险的弹性角度而言，蚂蚁觉得光做隔离和防范还是不够的，我们还是希望通过预警、测试、修复这样的动态机制去提升能力”，作为企业界代表，蚂蚁集团资深副总裁、科技伦理委员会联席主席周志峰介绍了蚂蚁在AI大模型领域的进展与伦理方面的思考。

“以AI医疗应用AQ为例，AQ向用户提供的问答，都是有巡检机制的。健康模型场景会经过医疗伦理、医疗安全、医疗合规、通用安全和医学专业性5大方面的审视”，周志峰表示，蚂蚁集团不仅以长期持续的技术投入为AI伦理夯实基础，还围绕人工智能制定了“平等、尊重、可信、负责”的基本科技伦理原则；通过设立科技伦理委员会，协同内部各部门与政府指引、行业专家、用户反馈进行长期有效的互动。

圆桌研讨环节“AI大模型+医疗，如何完善规则指引”

“在医疗中大量使用AI的时候，人到底还有多大程度的自由意志？人该如何维护自身的尊严？看似是一个业界痛点问题，实际上背后涉及到人类生存发展的根本问题”，复旦大学肖仰华教授主持了论坛的圆桌研讨环节，进一步聚焦“AI大模型+医疗”，来自复旦大学、中南大学、华西医院、上海交通大学的医疗与伦理领域专家，围绕AI诊疗的伦理边界、责任划分、监管框架展开激烈讨论。

“医疗大模型的发展，我觉得对社会最大的一个贡献就是有可能促进医疗公平公正”，复旦大学哲学系教授王国豫认为，针对我国区域医疗资源分配的不均衡性，AI在医疗领域的应用不仅是偏远地区医生的好助手，也为优势医疗资源难以触达和覆盖的病患群体，带来了期望和健康福音。然而，“在效率之外，还有很多难以量化统计的部分，比如患者的情感、心理需求和精神状态”，王国豫表示，医者治疗的不能仅仅是患者的病灶，更要将患者作为一个完整的人，考虑患者的生命体验。

“如何让患者和医生能同步达成健康方面的共识？现在很多的穿戴设备可以帮上忙。比如心率、血压，每天运动的步数都可以监测，什么时候吃药也可以通过穿戴性设备提醒”，上海交通大学医学院附属瑞金医院信息中心主任赵艳感慨道，如今AI的出现让患者不仅在诊前就能对自身情况进行较科学的基础了解，也在诊中和诊后促进了患者对医生诊疗方案的依从性，从而可以提升配合治疗的效果。

“AI治理的探索永不止步，相信今天的讨论，是迈向完善AI治理规则的重要一步”，黄澄清表示，信百会研究院将与蚂蚁集团科技伦理委员会继续推动产学研合作，助力构建安全、可信的AI生态，让技术真正造福人类。