如何抑制“AI大模型幻觉”？方舟健客互联网医疗在做精准诊断实践

（文/孙梅欣 编辑/张广凯）

当“老龄化”时代不可避免的到来，如何更好地对健康进行管理、提升生活质量，成为社会热议话题。加之人工智能普及，“AI+医疗”在多平台下得以使用，也让市场纷纷聚焦“银发经济”机遇下的互联网医疗新赛道。

尤其是今年DeepSeek宣布开源之后，三甲医院、智慧健康平台等不同层级的医疗关联机构，进行更深入的“AI+”尝试，如AI辅助诊断、AI医生助理、影像AI……

作为国内头部的互联网医疗平台，方舟健客在今年2月也宣布接入DeepSeek开源大模型并完成私有化部署。技术+算力的优化，为“AI+慢病管理”提供了数字驱动，方舟健客通过自主研发“H2H（Hospital To Home从医院到家庭）智慧医疗生态”为“AI+H2H”的升级，希望成为公司的智慧医疗业务的新增长点。

在AI协助下，升级后的“AI+H2H”智慧医疗服务平台对于咨询处理效率得到提升、回复内容更为精准有效，能够为患者端和医生端带来服务效率提升。

同时，随着DeepSeek大量使用后所暴露出的“AI幻觉”问题，方舟健客也通过混合云部署、内部准确知识库的建立，以及人机协同等方式进行抑制，给出了医疗大模型细分领域的创新解决方案。

用人机协同提升服务效率

“在我国，有数据显示，75%的老年人至少有一种慢性病，老年人对慢病服务管理的需求很强烈。但因医患之间信息不对称、医疗资源分布不均衡、慢病患者用药依从性低等情况，慢病患者尤其在复诊续方上还是存在着不少的痛点。”

作为方舟健客的创始人、董事长兼首席执行官，谢方敏希望能够通过公司创新研发的H2H智慧医疗服务平台，将在线复诊、慢病管理、医患教育、药品服务等从医院延伸至家庭。

此外，还能通过一对一服务的方式，有针对性地为慢病患者提供用药指导、健康知识科普等服务，解决患者用药依从性差等实际问题。

谢方敏表示，从多年实践经验来看，80%的医疗咨询存在重复提问，“一直回复同样的问题”也变相占用了医生大量时间。“接入大模型之后，AI医生助理不仅可以更准确识别语言歧义，并且可以按照医生的问诊逻辑进一步追问，再将问题初筛汇总后交由医生集中处理。”

但谢方敏强调，目前H2H智慧医疗平台采取的是人机协同的运作模式：“收集整理的患者问询，都会有专业的执业医生进行答复。若AI医生助理在处理用户问询判断为病情严重，也会第一时间首先建议患者线下就医。”

事实上，各大医疗咨询平台上目前入驻的医生，大部分还是在通过碎片化提供线上问诊回复，但对于患者端而言，就存在较长的等待时间、实时回答率太低的情况。

“接到用户问询时，AI医生助手经过医生准许，会针对患者提出的基础性问题，进行符合专业医学的解答。”谢方敏提到，尤其是老年慢病患者普遍会存在重复、多次提问的情况，这些老年慢病群体希望在就医过程中获得情绪价值的安抚。

“在合理时间内做到‘有问必答’，本身也是情绪价值的提供，叠加上算力提供较为准确的回答，能够让患者有更好的体验感。”他认为，体验感提升不仅能让用户增强对疾病认知、提升问诊信任度有较大的影响，同时也能提高平台用户忠诚度。

抑制“AI幻觉”，要“喂”更准确信息

在DeepSeek的迅速风靡的同时，海量的使用用户随即发现，人工智能会存在编故事一样的“AI幻觉”，并能达到以假乱真的程度。

在技术创新、文学创作方面，“AI幻觉”是可以被容错的领域，但在更为严谨的医疗行业，1%的差错都会带来严重的事故。如何规避可能由于“AI幻觉”所带来失误？业内也亟待一套完善的解决方案。

谢方敏坦言，“AI幻觉”是大型通用模型在应用阶段所遇到的第一大瓶颈，同时当前还存在医药领域的数据安全、个人隐私保护及合规性问题：“因此我们在借助DeepSeek能力的同时，也同步对公司的AI智能体平台也做了四个方面的升级。”

根据方舟健客技术负责人介绍，四方面的升级分别体现在技术、数据、安全管理和数据库等方面。首先，通过升级技术架构，用更大算力资源让模型变得更聪明；其次，升级了AI智能体开发平台，让应用可以更快搭建；再次，升级了安全管理平台，针对安全合规性设置更高要求；最后，升级知识库的体系和内容，尽可能让AI幻觉最小化。

“具体来说，一方面我们通过跟腾讯云合作，用私有化的弹性提供更高算力资源，跑V3和R1的一些微调模型。另外考虑到数据放在云端可能存在风险，我们把所有数据部署在本地，并有专门的安全管理平台做管理。”该负责人表示，方舟健客采用混合云部署架构，可以很好地平衡算力资源和安全性的问题。

据悉，方舟健客不仅对接了DeepSeek，也对接了千问、Kimi、混元、miniMax等等通用模型，他补充说：“在这样的部署实践下，一方面能为AI智能体平台算力赋能，另一方面针对专业性强的问答还会进行任务细分，还可以交予不同的专家模型回复，以抑制AI幻觉的产生。”

方舟健客技术负责人认为，AI幻觉产生的主要因素，一是由于内容缺失，二是因为训练内容之间相互存在歧义，所以抑制AI幻觉最好的方式，就是给模型提供准确的知识：“因此我们在内部构建了包括药品说明书、医学指南等专业信息在内的准确知识库，并且我们还会通过大模型对知识库再进行反复检查，让内容更加准确，避免输出内容时出现不可预测的情况。”