北京
今天，两个新闻很有意思。
一是，百川智能发布“M3”医疗模型。 百川智能创始人兼CEO王小川发布了新一代开源医疗增强大语言模型Baichuan-M3，称该模型在问诊能力、医疗幻觉、Healthbench和Healthbench Hard评测上均超越人类医生。医疗健康一直是AI重兵投入的领域，百度、支付宝、阿里巴巴、腾讯、百川等均推出了相关产品，多家将医疗或健康作为其面向个人主推的AI产品。
二是，“张文宏拒绝将AI引入医院病历系统”成网络热点，并被众多网民抨击。微博智搜总结了张文宏的观点：
可见，张文宏并不是全面否定AI，他自己也用AI。他担心的是，医院过度使用AI后，导致医生过度依赖AI，而对AI的错误输出缺乏应有的判断。
从流程审计的角度看，如果医院使用AI诊疗系统，在一些基层医院，医生会越来越懒得自己判断，而是完全依赖AI，甚至可能护士、保安、保洁等都可以打着医生的名义利用AI系统诊病开药。由于有不可避免的AI幻觉，这种做法很可能是致命的，而且医生缺乏了足够多的实践，自身对病情的判断能力减弱。这两种情况，都很难在流程上避免。
不过，我赞成部分常见病、常规药、需长期服用药物的AI诊断、售药。我不认为，在这些方面，AI比京东、美团等平台的网上“坐堂医生”更差。几次买药经历，药名、厂家都是我定的，医生也没问出新问题，基本都是简单判断后就放行。
回到医疗大模型幻觉。医疗大模型和其他大模型有很大不同。为了最大程度减少幻觉和错误，医疗大模型的学习必须在可控的范围内，每次数据更新都是谨慎的，要最大程度减少外部输入“经验数据”对大模型输出结果的干扰。同时，与其他大模型不同，医疗大模型的输出结果应该是多元的、穷举的，不能因为某种结果支持的专家少就舍弃。医生可以参考AI的“诊疗结果”，但必须有自己的独立判断，根据实际情况选择最适当的诊疗方案。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
