网易首页 > 网易号 > 正文 申请入驻

ECCV 2026 | CLARITY:面向肿瘤治疗决策的医疗世界模型,在潜空间中模拟疾病演化

0
分享至

近年来,医学 AI 在影像诊断、报告生成、风险预测和医学问答中取得了很大进展。但在真实临床治疗决策中,一个更核心的问题并不是“这张片子对应什么标签”,而是:如果采用不同治疗方案,患者未来的疾病状态会如何演化?哪一种治疗路径能够带来更好的长期生存收益?

围绕这一问题,我们提出了 CLARITY: Medical World Model for Guiding Treatment Decisions by Simulating Context-Aware Disease Trajectories。CLARITY 是一个面向肿瘤治疗规划的 medical world model。它不再只做一次性的静态预测,而是在 latent space 中模拟 treatment-conditioned disease trajectories,并通过 survival-aware feedback 反过来优化 Therapy Policy Agent 生成的治疗方案。


论文题目: CLARITY: Medical World Model for Guiding Treatment Decisions by Modeling Context-Aware Disease Trajectories in Latent Space 论文链接: https://arxiv.org/abs/2512.08029 代码链接: https://github.com/DingTianxingjian/CLARITY 项目主页: https://dingtianxingjian.github.io/clarity-project-page/

在本次工作中,我们提出了一个用于肿瘤治疗决策的 latent medical world model。给定患者的 pre-treatment MRI、临床上下文、时间间隔以及候选治疗方案,CLARITY 学习预测治疗后的 latent disease state,并进一步估计 survival risk。不同于直接合成未来医学图像的 diffusion-based medical world model,CLARITY 直接在结构化 latent space 中建模疾病状态转移,从而更高效、更稳定地支持多步治疗规划。

一、背景:为什么治疗决策需要 world model ?

很多现有医学 AI 系统仍然遵循静态预测范式:输入一张影像或一组临床变量,输出一个诊断标签、风险分数或生存概率。这个范式在分类、检测、分割和单点预后任务中有效,但它并不能真正回答治疗规划中的核心问题。

肿瘤治疗天然是一个sequential decision-making problem。患者在接受放疗、化疗、免疫治疗、靶向治疗或 salvage therapy 后,疾病状态会随时间变化;不同治疗组合可能诱导完全不同的病程演化路径。因此,临床医生真正需要推理的是一个 counterfactual question:

如果当前患者接受某一种治疗,未来的疾病轨迹会如何变化?如果换成另一种治疗,长期生存风险会不会更低?

这正是 world model 适合解决的问题。在机器人和强化学习中,world model 通过学习状态转移函数,使 agent 可以在内部“想象”未来,然后基于 imagined trajectories 规划动作。将这个思想迁移到医学场景中,核心就变成了:

当前患者状态 + 治疗方案 + 时间/临床上下文 → 未来疾病状态

但医学 world model 面临几个特殊挑战。第一,临床 follow-up 时间间隔不规则,不能简单按固定时间步建模。第二,疾病演化受到影像、基因组、人口学变量和治疗历史等多模态因素共同影响。第三,治疗决策不仅需要预测未来状态,还需要评估 survival risk。第四,直接生成未来医学图像计算代价高,而且容易引入 reconstruction noise 和 representation drift。第五,医学治疗方案不能由 LLM 自由生成,必须满足临床安全约束。

CLARITY 正是围绕这些问题设计的。

二、CLARITY 的核心思想:从“预测一个结果”到“模拟多条未来轨迹”

传统临床 AI 通常把患者当前影像映射到一个单一输出,例如“高风险/低风险”或“推荐某个治疗”。CLARITY 的思路不同:它先构建患者当前疾病状态的 latent representation,然后在不同候选治疗方案下进行 counterfactual rollout,模拟多条可能的未来疾病轨迹。 直观来说,CLARITY 学习的是这样一个映射关系:


这里, 表示当前 MRI 对应的疾病状态, 表示两次随访之间的时间间隔,therapy 表示候选治疗方案, 表示模型预测的治疗后疾病状态。

这里可以看出 CLARITY 的关键区别:它不是直接预测一个标签,而是在患者特异性的上下文中预测“疾病状态如何被治疗方案改变”。

三、方法概览:CLARITY 包含哪些模块?

CLARITY 主要由四个部分组成:MRI Encoder、Therapy Policy Agent、Actor,也就是 Diseases Evolution Model,以及 Inverse Survival Evaluation。


3.1 MRI Encoder:把 3D MRI 编码为 latent disease state

CLARITY 首先使用 MRI-specific foundation model 将 pre-treatment 3D MRI 编码为 compact latent visual state。为了让预训练 MRI 表征适应 longitudinal disease modeling,我们在 frozen backbone 上使用 LoRA 进行参数高效微调。

这个 latent state 可以理解为患者当前疾病状态的数学表示。它保留了影像中与解剖结构、病灶区域和疾病进展相关的重要信息,同时避免直接在高维像素空间中进行昂贵预测。

3.2 Therapy Policy Agent:生成候选治疗方案

CLARITY 使用多模态大语言模型作为 Therapy Policy Agent,根据患者的临床上下文生成候选治疗动作。每个动作被表示为结构化的治疗方案,可包含 chemotherapy、external radiotherapy、brachytherapy、immunotherapy 以及 additional/supportive therapy 等多个组成部分。

需要强调的是,Therapy Policy Agent 并不是在开放式文本空间中自由生成治疗决策。其输出受到 guideline-informed 规则约束,包括药物组合、放疗剂量范围、分割方案以及与既往治疗史之间的冲突关系。通过这种设计,LLM 主要负责在受限空间内提出潜在候选方案,而最终生成的 action 仍然保持在结构化、临床合理的医学决策空间中。

3.3 Actor:Disease Evolution Model

Actor 是 CLARITY 的核心 world model。它接收四类输入:pre-treatment visual latent state、clinical context、temporal interval embedding 和 therapy embedding,并预测治疗后的 latent disease state。

Actor 包含两个子模块。第一个是 Post-Treatment Latent Predictor,用来预测治疗后疾病状态;第二个是 Survival Predictor,用来根据预测的疾病状态估计 one-year survival probability 和 continuous risk score。


为了训练 Actor,我们使用了四类监督信号:

  • Latent consistency loss:约束预测的 post-treatment latent 与真实 post-treatment MRI 编码接近。

  • Soft-label contrastive loss:让语义相似的治疗方案产生相近的 latent transition。例如,机制相近的治疗不应该被粗暴地当成完全无关的 hard label。

  • Brier loss:校准 one-year survival probability。

  • Cox partial likelihood loss:学习患者之间的 survival risk ranking。

如果用一句话概括,CLARITY 的训练目标就是:预测未来疾病状态,同时保证这种预测能服务于生存风险评估和治疗排序

四、Inverse Survival Evaluation:从预测到决策的闭环

如果只让模型评估一批候选治疗方案,我们得到的是 Direct Survival Evaluation:Therapy Policy Agent 生成若干候选方案,Actor 分别模拟每个方案的 latent trajectory,并输出 risk score。

但治疗规划本质上不是一次性选择,而是一个迭代修正过程。因此,CLARITY 提出了 Inverse Survival Evaluation,将 survival risk 作为 structured feedback 反馈给 Therapy Policy Agent,让它在下一轮生成更低风险的治疗候选方案。


整个过程可以概括为五步:

  1. Therapy Policy Agent 根据患者信息生成初始治疗候选方案;

  2. Actor 模拟每个方案下的未来疾病状态;

  3. Survival Predictor 给出每条轨迹对应的 risk score;

  4. risk score 被反馈给 Therapy Policy Agent;

  5. Agent 根据反馈更新治疗候选方案,并重复若干轮。

这个闭环的意义在于:CLARITY 不只是“生成一个治疗建议”,而是让模型在 imagined disease trajectories 上进行迭代搜索。它既保留一定探索性,又逐步把候选方案推向更低风险的治疗路径。

五、数据集:跨脑肿瘤和乳腺癌的 longitudinal MRI evaluation

为了验证 CLARITY 的有效性,我们使用了三个 longitudinal cancer datasets。

第一个是 MU-Glioma-Post。该数据集包含 203 名患者和 654 次 MRI follow-ups,并包含治疗记录和 genomic annotations。我们在 patient-level 上划分训练、验证和测试集,以避免 temporal leakage,并进行 5-fold cross-validation。

第二个是 UCSF-ALPTDG。这是一个成人弥漫性胶质瘤 longitudinal post-treatment MRI 数据集,包含 298 名患者。我们将其作为 zero-shot external validation:模型只在 MU-Glioma-Post 上训练,并直接在 UCSF-ALPTDG 上测试,不进行 finetuning。这个设置主要用于验证模型在外部中心和新患者群体上的泛化能力。

第三个是 ISPY-2。该数据集包含 985 名高风险乳腺癌患者,具有 longitudinal MRI scans、多时间点治疗记录和分子分型信息。我们在该数据集上独立训练和评估 CLARITY,以验证该框架是否可以从 neuro-oncology 扩展到 breast cancer treatment response modeling。

5.1 实验结果一:CLARITY 在 treatment exploration 上优于多类 baseline

我们首先评估模型生成和选择治疗方案的能力。对比方法包括 general LLMs、medical-domain models,以及 re-implemented MeWM-style baseline。


在 MU-Glioma-Post 上,CLARITY 达到 57.1% F1,明显优于 Huatuo-Vision 的 46.4% F1 和 MeWM-style baseline 的 43.6% F1。

在 UCSF-ALPTDG zero-shot external validation 上,CLARITY 取得 50.2% F1,同样优于最强 baseline 的 44.1% F1。

在 ISPY-2 breast cancer dataset 上,CLARITY 取得 53.9% F1,也优于 Huatuo-Vision 的 48.7% F1。

这些结果说明,单纯依赖 LLM 或 medical MLLM 直接进行治疗预测并不充分。CLARITY 的优势来自于把 MLLM 放入一个 simulation-to-decision loop 中:LLM 负责提出候选方案,world model 负责基于患者影像、临床信息和时间上下文评估这些方案的未来风险。

5.2 实验结果二:CLARITY 在 survival prediction 上取得更好的风险分层能力

除了治疗方案预测,我们还评估了 survival analysis。CLARITY 的 Survival Predictor 输出 continuous risk score 和 one-year survival probability,因此可以用 C-index、Brier score 和 Kaplan–Meier curves 等指标评估。


Kaplan–Meier 分析进一步显示,CLARITY 能够更清楚地区分 high-risk、medium-risk 和 low-risk 患者群体。与 MeWM-style baseline 相比,CLARITY 的风险分层曲线分离更明显,curve crossing 更少,log-rank p-value 更低,说明模型学到的 latent disease dynamics 与患者生存结局具有更强关联。

5.3 实验结果三:CLARITY 可以模拟多阶段治疗决策轨迹

CLARITY 的一个重要能力是 multi-stage decision trajectory simulation。模型可以从 baseline MRI state 出发,在多个 follow-up stage 上生成候选治疗分支,并选择累计 survival risk 最低的路径。


例如,在一个模拟轨迹中,模型可以从标准治疗 RT + TMZ 出发,随后根据风险反馈切换到 TMZ maintenance,再进入 CCNU,最后在 salvage stage 选择 Avastin + Brachytherapy。这样的路径并不是简单地预测一个单步标签,而是把治疗决策建模为随时间变化的 sequential planning problem。

这也是医疗 world model 的核心价值:它允许模型在 imagined disease trajectories 上进行推理,而不是只对当前时刻做静态判断。

5.4 Latent-based vs Diffusion-based

相较于 diffusion-based approach,CLARITY 的 latent-based predictor 在计算效率上有明显优势。


Diffusion-based 1000-step simulation 需要约 61.3 TFLOPs 和 38.6 秒;500-step simulation 仍需要约 39.5 TFLOPs 和 19.7 秒。而 CLARITY 的 latent-based method 只需要约 4.21 TFLOPs 和 0.341 秒。

这对于 Inverse Survival Evaluation 非常重要。因为 feedback loop 需要多轮候选治疗方案评估,如果每次都依赖昂贵的 diffusion sampling,整个决策过程将很难实际运行。

此外,CLARITY 的 latent-based prediction 也显著降低 representation drift。Diffusion-based reconstruction 会经历“生成图像—重新编码”的中间步骤,这可能引入额外噪声;而 CLARITY 直接预测 post-treatment latent state,因此更适合 downstream survival evaluation。

5.5 可解释性分析:latent state 是否真的包含疾病演化信息?

一个自然问题是:如果 CLARITY 不直接生成图像,那么它的 latent state 是否真的代表了可解释的疾病变化,而不是抽象噪声?

为此,我们训练了一个辅助 diffusion decoder,仅用于分析 predicted latent states 中包含的信息。通过将 predicted post-treatment latents 解码回 MRI pixel space,我们可以检查 latent dynamics 是否保留了宏观解剖结构和病灶相关变化。


结果显示,decoded latent representation 可以较好保留患者的 global brain structure 和 clinically relevant pathological changes。定量指标上,模型取得较高 PSNR 和 SSIM,同时 FID 和 LPIPS 也表明 latent space 捕捉到的是语义层面的疾病演化,而不是简单的 identity mapping 或随机像素噪声。

六、总结

在本次工作中,我们提出了 CLARITY,一个面向肿瘤治疗决策的医疗世界模型。CLARITY 通过在 latent space 中建模 treatment-conditioned disease trajectories,将医学影像、临床上下文、时间间隔和治疗方案整合到统一的 disease evolution framework 中。

与传统静态预测模型相比,CLARITY 能够模拟“如果采用不同治疗,疾病未来会如何发展”。与 pixel-space diffusion medical world model 相比,CLARITY 避免了高成本图像合成和 representation drift,使多轮治疗策略优化变得更高效。进一步地,CLARITY 通过 Inverse Survival Evaluation 将 survival-aware feedback 反馈给 Therapy Policy Agent,形成一个闭环的 simulation-to-decision treatment planning framework。

实验结果显示,CLARITY 在 MU-Glioma-Post、UCSF-ALPTDG 和 ISPY-2 上均取得了优于现有 baseline 的治疗探索性能,并在 survival prediction 中获得更好的 C-index 和风险分层能力。消融实验进一步验证了 latent dynamics、clinical context、MRI-specific encoder 和 feedback loop 的重要性。

我们希望 CLARITY 能为 medical world model、longitudinal disease modeling 和 AI-assisted treatment planning 提供一个新的研究方向。未来,我们也期待在更大规模、多中心、多模态数据上进一步验证和扩展这一框架,使 AI 系统能够更可靠地辅助真实临床场景中的个体化治疗决策。

Illustration From IconScout By IconScout Store

立足全球视野,深耕学术沃土,五位青年教授的线上闭门交流

北京时间7月15日(周三) 晚20:00截止报名

详情点击图片跳转

-The End-

本周上新!


扫码观看!

“AI技术流”原创投稿计划

TechBeat是由将门创投建立的AI学习社区(www.techbeat.net)。社区上线700+期talk视频,3000+篇技术干货文章,方向覆盖CV/NLP/ML/Robotis等;每月定期举办顶会及其他线上交流活动,不定期举办技术人线下聚会交流活动。我们正在努力成为AI人才喜爱的高质量、知识型交流平台,希望为AI人才打造更专业的服务和体验,加速并陪伴其成长。

投稿内容

// 最新技术解读/系统性知识分享 //

// 前沿资讯解说/心得经历讲述 //

投稿须知

稿件需要为原创文章,并标明作者信息。

我们会选择部分在深度技术解析及科研心得方向,对用户启发更大的文章,做原创性内容奖励

投稿方式

发送邮件到

yimingzhang@thejiangmen.com

添加工作人员微信(aceyiming投稿,沟通投稿详情



关于我“门”

将门是一家以专注于数智核心科技领域新型创投机构,也是北京市标杆型孵化器。 公司致力于通过连接技术与商业,发掘和培育具有全球影响力的科技创新企业,推动企业创新发展与产业升级。

将门成立于2015年底,创始团队由微软创投在中国的创始团队原班人马构建而成,曾为微软优选和深度孵化了126家创新的技术型创业公司。

如果您是技术领域的初创企业,不仅想获得投资,还希望获得一系列持续性、有价值的投后服务,欢迎发送或者推荐项目给我“门”:

bp@thejiangmen.com


点击右上角,把文章分享到朋友圈

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国女排想要亚锦赛夺冠,必须少用这三人,战伊拉克都打不明白

中国女排想要亚锦赛夺冠,必须少用这三人,战伊拉克都打不明白

墨染锦年p
2026-08-23 05:34:24
林彪鞭打妻子无人敢劝,刘亚楼夺鞭大吼,林彪:刘亚楼管我,我服

林彪鞭打妻子无人敢劝,刘亚楼夺鞭大吼,林彪:刘亚楼管我,我服

壁炉公子
2026-08-17 14:13:17
申花中卫告急 门将不换明年别想争冠!米帅:中超进步明显 中国球员能力不错

申花中卫告急 门将不换明年别想争冠!米帅:中超进步明显 中国球员能力不错

刀锋体育
2026-08-23 08:07:04
活久见!神木一33岁女硕士征婚,要求对方身高184,月收入5万,网友:王思聪去了,都不符合条件

活久见!神木一33岁女硕士征婚,要求对方身高184,月收入5万,网友:王思聪去了,都不符合条件

火山詩话
2026-08-21 15:43:17
一夜三大巨变!徐昕解约赴美,徐杰封神,CBA彻底告别金元篮球

一夜三大巨变!徐昕解约赴美,徐杰封神,CBA彻底告别金元篮球

桑葚爱动画
2026-08-23 15:23:05
卡里克遭遇开门黑,曼联0‑2赫尔城新援被吐槽,爆冷输球有内因

卡里克遭遇开门黑,曼联0‑2赫尔城新援被吐槽,爆冷输球有内因

云儿评球
2026-08-23 16:33:41
上海40岁德国白人外籍幼儿教师:HPV携带者,到处约女生不做防护

上海40岁德国白人外籍幼儿教师:HPV携带者,到处约女生不做防护

踏青云看世界
2026-08-23 07:24:12
U18男篮79-66进决赛、澳大利亚大胜韩国,澳洲不该打亚洲杯,中国是亚洲最佳!

U18男篮79-66进决赛、澳大利亚大胜韩国,澳洲不该打亚洲杯,中国是亚洲最佳!

林子说事
2026-08-23 11:09:20
婆婆过寿当天,怀孕7个月的我在厨房忙活,公公突然掀翻桌子

婆婆过寿当天,怀孕7个月的我在厨房忙活,公公突然掀翻桌子

艺鉴在线
2026-08-23 11:47:55
“香港演员几乎全军覆没! 无戏可拍”引发网友热议

“香港演员几乎全军覆没! 无戏可拍”引发网友热议

许三岁
2026-03-26 11:35:13
太原的脸被这后生丢尽了

太原的脸被这后生丢尽了

布衣乱弹
2026-08-22 17:10:39
为啥有人断子绝孙,有人却子孙满堂?原因只有5个字

为啥有人断子绝孙,有人却子孙满堂?原因只有5个字

历史教堂
2026-08-19 06:23:17
一人说一个遇到非常炸裂的事,网友:听说了这件事震惊了我一整年

一人说一个遇到非常炸裂的事,网友:听说了这件事震惊了我一整年

夜深爱杂谈
2026-08-22 21:13:58
男性一天最多可以抽多少支烟?医生:控制在这个数,还算可以!

男性一天最多可以抽多少支烟?医生:控制在这个数,还算可以!

小胡军事爱好
2026-08-23 16:27:34
周末重磅利好!下周A股,关键时刻!

周末重磅利好!下周A股,关键时刻!

新浪财经
2026-08-23 15:06:31
我弟高考拿了740分,全家摆酒请客没人搭理我,我坐在角落小声嘀咕了一句,我妈手里端着的盘子瞬间摔在地上

我弟高考拿了740分,全家摆酒请客没人搭理我,我坐在角落小声嘀咕了一句,我妈手里端着的盘子瞬间摔在地上

墨染尘香
2026-08-22 15:14:27
蒋经国真是爱惨了女儿蒋孝章,每张合照都笑开了花,风采照人!

蒋经国真是爱惨了女儿蒋孝章,每张合照都笑开了花,风采照人!

历史龙元阁
2026-08-22 16:30:15
博主“渔猎齐哥”再更新“甲醛白菜”事件后续:大家以后大概率不会再吃到蘸药白菜

博主“渔猎齐哥”再更新“甲醛白菜”事件后续:大家以后大概率不会再吃到蘸药白菜

大风新闻
2026-08-23 14:38:06
15分钟20炸!9层大楼被捅穿,苏35越境闯线,基辅防线压力骤增

15分钟20炸!9层大楼被捅穿,苏35越境闯线,基辅防线压力骤增

流史岁月
2026-08-23 15:50:08
憋了几十年,姜武终于站出来辟谣!和姜文根本不是同母异父?

憋了几十年,姜武终于站出来辟谣!和姜文根本不是同母异父?

阿废冷眼观察所
2026-08-22 02:59:42
2026-08-23 17:03:00
将门创投 incentive-icons
将门创投
加速及投资技术驱动型初创企业
2477文章数 596关注度
往期回顾 全部

科技要闻

“英伟达发通知:涨价15%以上”

头条要闻

9.9元9斤包邮的攀枝花芒果从昆明发出 卖家:邮费更低

头条要闻

9.9元9斤包邮的攀枝花芒果从昆明发出 卖家:邮费更低

体育要闻

字母+汤神,有没有搞头?

娱乐要闻

王传君的舞台,藏着与乔任梁的过往

财经要闻

加拿大宣布“全额对等报复”美国新关税

汽车要闻

华为乾崑全栈赋能/更倾向城市出行 猛士X700车展首秀

态度原创

数码
时尚
艺术
本地
公开课

数码要闻

亚马逊Kindle电纸书、Fire TV电视棒等硬件产品涨价,涨幅最高60%

夏天别总穿白色T恤,试试这几款衬衫,配裤子裙子都显气质

艺术要闻

17幅 静物人物油画,俄罗斯画家伊戈尔·格拉巴尔

本地新闻

《牛来》的一声“妈妈”,到底多少人被精神污染了

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版