诉讼指控这家医疗巨头规避监管标准并隐瞒错误率,以加快技术推广。
一项新诉讼指控梅奥诊所(Mayo Clinic)在人工智能应用上敷衍了事,让患者隐私面临风险。
据明尼苏达州的一家媒体MPR News报道,这家医疗巨头因逃避人工智能合规规则并隐瞒令人担忧的错误率而被起诉。
该民事诉讼由梅奥诊所前研究主任兼AI合规负责人特雷西·塔米科·埃托提起。据MPR报道,她本周在联邦法院起诉了该公司,声称她举报了医院急于将AI引入运营、把患者护理和隐私置于风险之中的做法,随后便遭到了报复并被解雇。
埃托的律师阿图尔·戴维斯告诉MPR,这个案子很重要,因为它涉及患者的私密和保密信息。
“如果[人们]在意AI必须以负责任的方式、有诚信地来使用,而且必须有规则和准则,那这个案子就跟你有关,”戴维斯告诉MPR。
他说,梅奥诊所有21天的时间做出回应。
戴维斯暂未回应 Inc. 的置评请求。
梅奥诊所向 Inc. 表示,其“不对正在审理或进行中的诉讼发表评论”。然而,该公司传播总监安德烈娅·卡尔马诺维茨表示,“梅奥诊所致力于负责任地开发和运用人工智能,把隐私、安全、透明和合规融入到我们每一个环节中。”
她补充说,其“研究和临床创新都按照相关法律法规来进行,我们始终坚守患者对我们的信任,尊重他们的隐私。”
埃托于2023年加入梅奥诊所,担任研究运营总监,负责确保该机构的人工智能技术用得合乎伦理。据《MPR》报道,她在2024年初第一次向主管反映了问题,当时她担心患者数据的匿名化处理流程没有得到应有的审查。
她在诉讼中声称,她的主管并未质疑她所提担忧的实质内容,但坚持说,如果让[审查委员会]重新审查去标识化流程,会拖累正在进行的研究项目的进度,进而损害梅奥的竞争优势。
将人工智能融入患者护理
据《MPR》报道,过去几年,梅奥诊所一直把将人工智能融入患者护理作为优先事项,致力于开发这项技术以覆盖更多患者,并寻找诊断、治疗、预测和预防疾病的更新、更好的方法。
上个月,这家医疗行业的巨头与微软合作,开发了一个专门用于医疗保健的先进人工智能模型。
然而,诉讼称,埃托揭露了“梅奥人工智能方向上一系列令人不安的缺陷”,称该公司重速度轻准确性,一边操纵关键医学研究数据,一边让患者护理和隐私面临风险。
据《MPR》报道,在2024年期间,Eto向主管反映了多起绕过审查流程的情况,其中涉及联邦监管标准。她尤其担心医院的数字助理工具MAYA,称其错误呈现结果、删除不利结果,并使用了一款未经授权的软件工具,危及数据安全。
另有十份独立的举报报告也反映了类似问题。
据报道,Eto于2025年初开始被排除在管理层会议之外,并被梅奥人力资源部门纳入了正式的绩效改进计划。她声称自己随后被降职,被告知不能再管理她的员工,并被移出了一些人工智能项目。之后,她因一次严重的抑郁发作申请了病假。
在她休假大约一半时,Eto接到通知,她的岗位已被取消。
戴维斯告诉MPR:“当一个人决定就我国的争议性话题对一家行业巨头提起诉讼时,她真的是在拿自己的职业生涯冒险。”“她可能因此在职业上受到攻击。她可能因此名声受损,而她敢这么做,你就知道她有多确信自己是对的。”
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.