推动医疗 AI 可信落地，多家顶尖高校及医院联合蚂蚁集团发布《医疗健康大模型伦理与安全白皮书》

7 月 18 日，在云南昆明举办的中华医学会医学伦理分会 2025 年会现场，由上海交通大学、复旦大学、上海交通大学医学院附属瑞金医院和蚂蚁集团联合编写的《医疗健康大模型伦理与安全白皮书》正式发布，为医疗健康大模型的安全、有效、合规应用提供参考指导，推动医疗 AI 可信落地，助力医疗行业智能化的发展，让算法更有“医者仁心”。

《医疗健康大模型伦理与安全白皮书》正式发布

近年来，人工智能技术发展迅猛，在医疗领域，大模型的应用为提高医疗服务效率、优化医疗资源配置、方便用户就医问诊带来了巨大机遇。然而当 AI 走进诊室、药房和家庭健康管理时，其安全性、严谨性和伦理合规性面临远超其他行业的挑战：AI 给我的就诊建议是否正确专业？我的个人隐私能得到充分保护吗？医疗决策过程是否透明可溯？诊疗过程中的责任归属如何界定？这些都是用户担忧、医生关切、行业亟需解决的“痛点”。

该白皮书针对上述大模型应用中可能出现的知情同意、用户隐私、数据歧视、不透明性、幻觉与错误信息以及违反伦理法律规定等风险，围绕科学性、安全性、合规性、伦理性等关键维度，构建了“应用场景 × 伦理规范 × 法规数据集 × 考点 × 主观题”五位一体的医疗健康大模型评估体系，并提出“大模型自评+专家复核”的多层评估机制，提升模型伦理违规的识别率，让医疗大模型在应用前通过“质检关”，变得更准确、安全、公平、透明。

在医疗健康大模型评测指引的基础上，白皮书也提供了系统性的风险防控路径，包括数据安全防控、伦理合规建设、技术可靠性与风险监控、监管与评估体系建设等环节。白皮书特别强调了“人机对齐”理念，只有让对齐原则融入技术开发、行业应用、监管等各个环节，AI 才能从“高效工具”转变为“可靠伙伴”，并提出包括伦理准则微调、价值观对齐训练、敏感内容干预机制、RAG 模块引用质量控制、医学共情识别等医疗大模型伦理对齐的技术路径，确保大模型首先遵循“以人为本，生命至上”的原则。

该白皮书还介绍了在目前在医疗产业已落地应用的产品案例，包括“小瑞健康”、“夸克健康助手”和“AI 健康应用 AQ”。据了解，今年 6 月，蚂蚁集团正式发布 AQ，为用户提供健康科普、就诊咨询、报告解读、健康档案等上百项 AI 功能，还能高效连接全国超 5000 家医院、近百万医生、近 200 个名医 AI 分身等专业医疗服务，让远在山区的老乡也能便捷享受专业的医疗服务。

“蚂蚁将平等、尊重、可信、负责的科技伦理原则融入技术研发的全链路，倡导‘AI 向善’的理念，希望为用户打造的产品，”蚂蚁集团全面风险管理部 AI 风险治理总监杨舟在现场表示，“同时我们也将继续坚持开放合作，和国内外多学科、跨行业的专家、学者及机构共同推动 AI 治理体系的完善。”

北京大学医学人文学院医学伦理与法律系教授、博士生导师丛亚丽表示，“医疗健康大模型的研发与应用不是一个单纯的技术命题，而是涉及生命尊严与安全的社会责任课题。这次发布的白皮书在医疗大模型伦理与法律风险等方面的归纳和测评提出了独创的尝试，为行业各方提供了一个非常有价值的参考框架和指引。”

据了解，该白皮书还集结了来自北京协和医学院、北京大学医学部、复旦大学附属肿瘤医院、复旦大学附属妇产科医院、西安交通大学、厦门大学医学院、天津医科大学、天津中医药大学等十余所国内高校与医院的专家组成专家委员会，参与内容的框架制定，确保白皮书内容的权威性和科学性。