“AI医生”误诊险些要人命？真相来了

来源：央视新闻客户端

随着人工智能应用逐渐深入我们的日常生活，与人工智能相关的各种消息也不断涌现。近期，有自媒体发布消息称，从大三甲医院到社区诊所，从大城市到乡村，“AI医生”已经因为“误诊”闯了很多祸。这类“AI医生误诊”消息发布后，因为离奇的剧情、情感的冲突吸引网友大量转发。

上海一重症肺炎患者被AI误诊险丧命？谣言！

近日，有自媒体发布“AI医生闯大祸！上海一患者被误诊肺炎险丧命”，消息一经发布，就在网上大量传播，消息称，4月5日，上海徐汇区某社区医院上演惊险一幕，一名65岁患者因咳嗽发烧就诊，AI辅助诊断系统将其症状判定为“普通感冒”，仅开具退烧药，然而，患者回家后病情迅速恶化，家属连夜送医，经三甲医院确诊为重症肺炎合并感染性休克，抢救后脱险。

为了增加可信度，该消息还堂而皇之地引用上海某三甲医院呼吸科主任对AI模型的“爆料”、律师协会数据甚至是国家卫生健康委发布会口径来佐证故事的真实性，一经发布，就引起了网友的广泛关注。但是经过核查，不仅文中提及的医生不存在，协会数据不存在，就连相关部门发布会的内容也是伪造的，是彻头彻尾的假消息。

全国首例AI医疗误诊案开庭？谣言！

除了漏洞百出、粗制滥造的AI误诊谣言之外，记者还注意到，不少“精装”版的甚至是由AI辅助生成的AI误诊谣言，也出现在了网络上。

时间、地点清晰明了，案情介绍详细。这篇标题为“全国首例‘AI医疗误诊诉讼案’开庭，算法责任界定成焦点”的文章，3月份出现在某网络平台上。据文章称：北京市民张女士因持续胸痛前往某三甲医院就诊。接诊医生使用院内部署的“智诊AI系统”进行辅助诊断。然而，张女士次日突发急性心肌梗死，抢救无效死亡。2025年3月13日，全国首例“AI医疗误诊”诉讼案在北京市海淀区人民法院正式开庭。

这篇文章发布后，立即引发了网友热烈讨论。总台央视《法治在线》记者与法院进行了核实。

北京市海淀区人民法院立案庭副庭长 申进：我们在立案，还有审判相关的系统，我们都查找过了，确实没有发现这个相关的案件。

这篇文章还着重分析了这起所谓AI医疗误诊案件所涉及的庭审争议焦点，详细列明了AI公司、医院方以及医生的相关主张，可谓是信息量十足，收获了网友百余条的回复讨论。而专家表示，这篇文章有可能是AI生成的。

清华大学新闻与传播学院 人工智能学院教授 沈阳：现在使用AI是比较容易生成一篇包含所有新闻要素的文章的，包括时间、地点、人物、事件，它可以自动给你脑补上，并且可以把所有的细节都设计好。这篇文章第一是细节都比较充分，第二有些词语很专业，这也是AI谣言的一个特征，它在任何专业方向上都可以使用层级比较深的专业词汇，所以专业性也使得这种文章看上去特别能够迷惑人。

起底以“AI医生”为主角谣言编造套路

梳理这些谣言我们不难发现，它们既利用公众对医疗服务的关注，又利用公众对AI技术在医疗领域应用的不了解，来编造故事。这类以“AI医生”为主角的谣言，其套路主要包括以下几个步骤：

首先，这类谣言中，事件起因大多是某医院采用AI代替医生看病开方，随后剧情反转出现医疗事故，最后被判罚天价赔偿。

在这个过程中，造谣者还加入所谓“官方媒体报道”“权威机构统计”“行业专家分析”等细节，以获取信任。

此外，这些谣言往往充满戏剧性，制造矛盾，放大焦虑，以便推动网友扩散，帮助造谣者获得点击量和关注度。

目前不允许AI取代医生进行诊疗或开处方

目前，AI在诊疗行为当中担任的角色是什么？我们是否需要担心谣言中类似“误诊”情况的发生呢？

对于AI在医疗领域的应用，根据规定，人工智能软件等不得冒用、替代医师本人提供诊疗服务；处方应由接诊医师本人开具，严禁使用人工智能等自动生成处方。此外，去年11月，国家卫生健康委等部门也联合发布《卫生健康行业人工智能应用场景参考指引》，涵盖了医疗服务管理、基层公卫服务、健康产业发展和医学教学科研四大类84种具体场景，发挥AI在医疗中的作用。但在这些场景中，按照规定，AI发挥的都是辅助作用。目前各医疗机构公布的AI应用于诊疗的内容，指的也是AI辅助诊疗技术的落地。

上海政法学院人工智能法学院院长、教授、博士生导师 杨华：因为医生看病他跟病人有一个互动，包括你的情绪、状态，甚至一个眼神都可以传递某些信息。另外，AI看病之后出现的责任，到底是医生的责任，还是医院的责任，还是算法的责任，还是AI机器人公司的责任？没有法律的边界，所以说法律上还不允许AI有处方权。

平台责任 源头治理 遏制虚假信息传播

AI在医疗领域的应用越来越广泛，随之而来的谣言侵扰也对行业的发展造成了影响。如何从源头识别和遏制虚假信息的发布，是目前各方需要解决的问题。

前不久，国家互联网信息办公室等多部门联合发布《人工智能生成合成内容标识办法》，提出对于AI生成的信息要强制添加显式和隐式标识等规范要求，所有AI生成的文字、图片、视频等内容，都要“亮明身份”，提高生成信息的可辨识度。

中国政法大学法治文化研究所所长 宋庆宝：受众是方方面面的，可能有一些对于谣言鉴定能力不是很强。这时非常重要的一点，媒体尤其这个平台，它应该承担主体责任。

同时，专家表示，造谣并非没有成本，如果造成一定社会影响，造谣者将面临法律的严惩。

上海政法学院人工智能法学院院长、教授、博士生导师 杨华：如果有这种谣言，你扰乱公共秩序，我们可以采取行政拘留，一定的罚款。如果谣言对某些企业点对点的，或者能够证明对企业的商誉或者名誉产生了损害，可以承担民事责任。情节比较严重的，承担刑事责任。

（总台央视记者 郑怡哲 赵酉龙 李红叶 王殿甲 苗毅萌）