博鳌热议：AI给医疗健康带来“文艺复兴”，但风险如何避免？

在今年的博鳌亚洲论坛，“AI+健康”的应用和治理被设置为一个单独的分论坛议题，不仅是因为AI给医疗健康领域带来了翻天覆地的变化，还因为AI在这个领域的应用有诸多问题需要厘清。

“在医疗健康领域，我们无知的部分大于已知部分，AI能帮助科学界理解人体生物学，我们面临一个新的文艺复兴，得到AI的支持，文艺复兴才能实现。”腾讯健康总裁、腾讯生命科学实验室负责人吴文达在论坛对话中如此形容。

具体到新药研发、药物发现、AI阅片等方面，AI给医疗健康的诸多环节都带来益处，但对AI的风险要如何识别和防范，也是一个复杂的话题。

加速医疗变革

“从现在开始，医生需要知道如何更好地使用AI。”新加坡医疗集团人工智能办公室主任、新加坡国家眼科中心首席数据与数字官张书维说。原因很简单，就像放射科医生在AI的支持下可以避免人类易犯的错，拥抱AI的医生比拒绝AI的医生效率更高。

吴文达向记者举例，宫颈癌AI筛查在中西部基层医疗机构应用后将检出率提升了2~3倍，腾讯与广医附一院研发的DeepGEM病理大模型已将肺癌基因突变预测时间从数周缩短至1分钟，AI加速诊断的同时也降低了医疗成本。

AI带来的改变体现在更多层面。海南博鳌乐城国际医疗旅游先行区管理局局长傅晟总结，以往业界要花10年、10亿美元的成本开发新药，但在一些重大疾病如肿瘤、心血管病和一些慢性病上还没有特别有效的办法，而现在，AI改变药物开发模式已初见端倪，AI推动的药物发现正如火如荼进行，AI在分子、基因层面带来提前诊断，AI阅片能力超过传统医生水平，AI还能对每个人提出个性化治疗方案。“原来仅仅围绕某一个通路设计药物的模式需要变革。AI会大大加速医疗变革。”傅晟表示。

从医疗健康信息整合和理解的角度看，细胞出版社战略与创新副总裁、细胞出版社执行主编李统胤则表示，人体是非常复杂的体系，任何一个个体都无法充分理解人体的变化，人们需要整合信息、作出决定。而生成式AI能整合大量信息。如果把复杂的人类生物学和复杂的AI结合起来，似乎是一个完美的结合。

不过，专家也呼呼要谨慎看待医疗健康领域的AI应用。李统胤举例，如果用AI计划一次旅行，AI做得不好导致多付了300多美元，还没有太大问题，但如果AI在医疗健康方面作出错误决定，后果将非常严重，“是不是会改变医疗健康？我相信正在改变，但一定要深思熟虑。”

红十字国际委员会主席中国事务个人特使、东亚地区代表处主任史德林也打了个比方。他表示，对一个锤子来说，一切都像是钉子。人们应该非常谨慎，对于AI要解决什么问题、什么是AI需要解决的，要超越健康的层面，从更广泛的层面考虑。要坚持的一个核心原则是，AI至少要无害。

不能把责任推卸给AI

多名业界专家认为，AI在医疗健康领域应用的风险和卡点，集中在数据流通、决策主体和AI可靠性方面。

在数据流通层面，刘翔宜指出，数据隐私十分重要，而医疗数据又是最为敏感的领域，要做到数据绝对安全的同时保证数据充分流通和分享，是非常大的矛盾，但这方面必须突破，他认为，首先要有国际公认的数据标准、数据规范作为基础。

在研究层面，一些专家则看到数据带来的卡点。李统胤指出，研究层面原始数据获取的过程非常复杂，从业者、研究者、临床医生有相关政策、规则需要遵守，但甚至不知道如何把数据放到适当的地方。要使数据可用、可靠、可分享，就要考虑简化数据提供的过程。

吴文达则告诉记者，AI已在加速药物发现进程，缩短早期研发周期，但当前存在的局限在于高质量、标准化生物数据的稀缺，以及算法在复杂生物学机制中的可解释性不足等。要解决这些问题，需要推动数据、算法与临床实践的深度融合。

AI的可靠性也是一个需要严肃对待的问题。特别是在大模型运行机制还未被研究清楚、幻觉也时有发生的情况下。

“大语言模型还像黑匣子，大家不知道里面是什么、如何处理、如何输出、有多少是假货，只是信任这个黑匣子。”励讯集团企业事务总裁、爱思唯尔董事长池永硕指出，至少得要求AI在医疗健康领域增加透明度，让公众了解黑匣子的运作方式。

吴文达和池永硕都提到智能体越来越多应用后，大模型黑匣子的问题需要得到更多重视。池永硕表示，现在有了AI智能体，人不再需要主动分享数据，AI就能拿走人的数据，因此数据治理问题需要重视。吴文达则提醒，大语言模型黑匣子问题还没解决，AI智能体会使用黑匣子的数据，因此AI不是百分之百可靠。

专家也提醒，应用AI时要明确人的责任。傅晟指出，世界可以用数据刻画，因此AI能在相当大程度上替代医生，但人类还有价值观追求。就像AI很难判断一个90岁患阿尔兹海默症的老人应该保守治疗还是积极治疗，牵扯到人性和道德时，AI不能代替完全人类。

吴文达则提醒，人们要明确的并不是要不要用AI，而是要明确在什么情境下使用AI，“高风险任务完全依赖AI智能体就是犯罪。人作为主体必须要负责，不能把责任推卸给智能体。”

吴文达告诉记者，医学的本质还是“人学”，关乎信任、共情与综合决策，医生的角色在于整合技术、经验与人文关怀，作出有温度的判断。而AI擅长数据处理与模式识别，但无法理解患者的情感、社会背景与生命价值，AI应作为医生的辅助角色。