FDA 推 AI 工具 Elsa：效率愿景与合规隐忧并存

一、AI 加速审批：FDA 的 “闪电落地” 与效率承诺

2025 年 6 月 2 日，FDA 突然推出人工智能工具 Elsa，这款基于 Anthropic Claude 大语言模型的系统被寄望于 “改写药物审批流程”。FDA 专员 Marty Makary 在声明中强调，Elsa 提前近一个月上线且低于预算，其核心功能包括文档读写与摘要生成，可 “加速临床方案审核、缩短科学评估时间并识别高优先级检查目标”。更令人瞩目的是，Makary 援引一位评审员的反馈称：“原本需要 2-3 天完成的工作，现在 6 分钟即可搞定。”

根据 FDA 披露，Elsa 将承担从代码编写到不良事件识别的复杂任务，其技术框架采用检索增强生成（RAG），理论上可降低 “幻觉” 风险。德勤作为开发合作方，将系统部署在政府云（GovCloud）环境中，宣称能确保内部文档安全。

二、内部警报：仓促上线背后的 “系统失灵”

然而，FDA 内部对 Elsa 的批评声浪迅速盖过官方宣传。多名员工向 STAT News 透露，工具上线 “毫无准备”，其输出内容常出现错误或部分失实。一位未参与开发的内部人士向 BioSpace 直言：“它远未达到上线标准。” 更严峻的是，员工反馈 Elsa 在执行简单任务时频频卡顿，实际并未显著节省时间，且 FDA 尚未建立使用规范 ——“缺乏护栏” 成为高频批评点。

这种混乱与特朗普政府此前的机构改革直接相关。在 FDA 数千名员工被解雇、HHS 预算拟削减 25% 的背景下，Elsa 被视为 “用技术弥补人力缺口” 的应急之举。但斯坦福大学生物医学数据科学副教授 James Zou 指出：“当机构同时面临裁员和技术转型，风险会呈指数级增长。”

三、技术黑箱：AI 决策的准确性与监管悖论

尽管 FDA 强调 “人类在环” 审核机制，但 AI “幻觉” 问题仍是心腹大患。Zou 教授警告，即便最先进的模型也可能将虚假信息包装成事实，而 Elsa 用于不良事件识别等高危任务时，这种风险尤为突出。哈佛医学院助理教授 Adam Rodman 更指出认知偏差：“人们倾向于信任 AI 系统，文献已反复证明‘人工复核’并非万无一失。”

技术细节的不透明加剧了担忧。FDA 仅透露 Elsa 未使用行业提交数据训练，但未说明其如何处理新提交的机密信息。更关键的是，当 AI 参与监管决策时，司法程序可能陷入困境 ——Conaty 律师提出尖锐问题：“若审批决定被起诉，行政记录能否追溯 AI 的决策逻辑？目前看来几乎不可能。”

四、法律迷雾：从数据安全到审批合法性

Elsa 的部署触发了一系列法律灰色地带。首先是商业秘密保护：FDA 虽宣称系统在安全环境中运行，但未解释如何防止 LLM 在分析新药申请时 “偷取” 企业机密。其次是监管决策的合法性：美国法律要求审批过程具备可追溯性，而 AI 的黑箱特性可能与这一原则冲突。Conaty 强调：“FDA 的核心使命是确保药物安全有效，但若 AI 决策机制不透明，这一使命将失去根基。”

更深远的影响在于监管上诉程序。一旦 AI 参与的审批决定被挑战，法庭将面临 “无法审查 AI 推理过程” 的尴尬局面。这种制度性漏洞，可能让 FDA 在未来陷入大量诉讼纠纷。

五、破局之路：建立 AI 治理的 “FDA 标准”

面对争议，专家们提出务实建议。Zou 教授呼吁 FDA 公开 AI 评估基准：“需要建立明确的性能指标，比如在模拟场景中对比 AI 与人类评审的准确率。” Rodman 则建议分阶段部署：“先从文档摘要等低风险任务开始，逐步向高风险决策过渡。”

行业观察人士指出，FDA 作为全球医疗器械和 AI 系统的权威监管者，其自身 AI 工具的治理水平将成为行业标杆。“如果 FDA 不能在内部证明 AI 的可靠性，又如何说服企业遵守其制定的 AI 监管规则？” 一位前 FDA 官员反问。

当 Elsa 的代码在 GovCloud 中运行，这场监管科技的冒险已超越技术范畴，成为检验美国药监体系适应力的关键考验。在效率与安全的天平上，FDA 需要回答的不仅是 “AI 能否加速审批”，更是 “在 AI 时代，如何定义药品监管的公信力”。而这个问题的答案，或许将决定未来十年全球医药创新的规则走向。

参考来源：https://www.biospace.com/fda/fdas-ai-rollout-raises-questions-around-readiness-legality

识别微信二维码，添加生物制品圈小编，符合条件者即可加入

生物制品微信群！

请注明：姓名+研究方向！

本公众号所有转载文章系出于传递更多信息之目的，且明确注明来源和作者，不希望被转载的媒体或个人可与我们联系(cbplib@163.com)，我们将立即进行删除处理。所有文章仅代表作者观不本站。