网易首页 > 网易号 > 正文 申请入驻

上海交大提出ICRDrag:首个上下文区域拖拽模型,实现精准可控图像编辑

0
分享至

来源:市场资讯

还在用 DragGAN、DragDiffusion 拖拽修图?点选拖拽容易变形、边界割裂、细节丢失的时代落幕了!ECCV 2026 ICRDrag 首创上下文区域拖拽模型,用掩码精准定位局部区域,移动、缩放、变形全都丝滑自然,兼顾精准度与画面真实感。


  • Paper: https://arxiv.org/pdf/2606.25907

  • GitHub: https://github.com/bcmi/ICRDrag-Region-Drag-Editing

  • Demo: https://drag.ustcnewly.com/

效果展示

先看编辑效果,每一组图像左边蓝色掩码是源区域,右边红色掩码是目标区域。拖拽编辑旨在把源区域拖拽到目标区域,其他区域除了必要的跟随性改动 (比如嘴巴动了,下巴也要跟着动) 之外,细节尽量保持不变。可以看出 ICRDrag 对于各种类型图片的姿态和形状调整都能轻松拿捏。


下面视频是 demo 展示,用户可以用不同颜色画出多对源区域和目标区域 (目前最多支持 5 对),把多个源区域拖拽到对应的目标区域。如果其他区域出现了不想要的改动,可以在其他区域增加类似锚点的源区域和目标区域,锁定其他区域。

体验链接:https://drag.ustcnewly.com/

直击痛点

传统拖拽修图,到底有多难用?玩过 AI 拖拽编辑的朋友一定踩过这些坑:

  • 基于单点拖拽:

    主流点拖拽模型比如 DragGAN, DragDiffusion 仅靠少量点对控制画面。点对信息模糊,AI 经常猜不透你的想法。点越少歧义越大,想要精准调整物体形态基本靠碰运气,很难严格对齐目标位置。

  • 现有区域拖拽:

    后来出现的 RegionDrag, DragFlow 等模型改用掩码控制区域,但缺陷依旧明显:物体拖拽后边缘断层,和背景融合生硬;复杂的形状姿态调整完全 hold 不住。


上下文区域拖拽

本次 ECCV2026 提出的 ICRDrag(In-Context Region-based Drag)全新解法:上下文区域拖拽,真正实现「选啥改啥」。

  • 上下文学习框架:

    基于 DiT 上下文学习框架,一次性输入原图、源区域掩码、目标区域掩码,直接输出编辑完成的图片,从底层解决拖拽编辑的控制难题。

  • 图像 - 掩码注意力一致性约束:

    目标图像在借鉴原图信息时,注意力分布必须和目标掩码匹配源掩码的分布保持一致。AI 不再割裂看图片和选区,生成画面严格贴合掩码划定的空间轮廓。

  • 源 - 目标双向注意力对应约束:

    目标物体看向原图对应区域,原图区域也反向关注目标物体,建立编辑前后物体的对应关系。

  • 图片 / 掩码专属模态 LoRA:

    图像富含纹理细节,掩码仅存储空间轮廓,二者的性质差别很大。ICRDrag 为图像、掩码分支使用独立 LoRA。

  • 分阶段课程式训练:

    现实使用中,用户勾勒的掩码往往比较粗糙。模型采用两阶段渐进式训练:第一阶段用完整语义掩码训练,让模型学会区域变换逻辑;第二阶段用稀疏不完整掩码训练,随机膨胀模拟手绘粗糙选区,大幅提升模型容错率。哪怕掩码画得潦草,AI 依旧能精准理解你的编辑意图。


区域拖拽大规模数据集

为了训练 ICRDrag 模型,该工作基于百万级视频数据集 OpenVid,打造了首个大规模区域拖拽数据集 PRD (Paired Region Dataset),补齐领域空白:

  • 训练集:28.7 万组「原图 + 源掩码 + 目标图 + 目标掩码」配对样本,如下图所示。下图中,左栏是原图、源掩码、从源掩码采样的部分区域,右栏是目标图、目标掩码、从目标掩码采样的部分区域。

  • 评测基准 PRDBench:1000 组人工校验高质量样本,同时标注掩码 + 关键点,可公平对比点拖拽、区域拖拽两类模型。


应用场景

图像拖拽编辑覆盖多个落地场景,是广大设计师和摄影爱好者的福音。

  • 人像修图:框选人脸、四肢,随意调整身材比例、姿态、五官位置,不变形不失真;

  • 静物 / 产品设计:拖拽商品调整摆放位置、缩放大小,无需重绘光影;

  • 场景构图优化:移动画面中人物、花草、建筑,自动填充背景,画面无缝融合;

  • 创意设计:自由扭曲物体轮廓,实现复杂创意形变,告别生硬拼接。

实验室简介

ICRDrag 出自上海交通大学牛力实验室。该实验室近几年主要工作集中在图像生成和编辑领域,代表性子领域是图像合成 / 物体插入 (image composition/object insertion) 和少样本图像生成 (few-shot image generation),也涉猎过图像填充、图像分层、风格迁移、拖拽编辑等其他子领域。近两年在关注生成模型的后训练和理解生成一体化模型。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
红军改编为八路军时中共曾提出编为四个军,军长分别为林彪、贺龙、刘伯承、徐向前

红军改编为八路军时中共曾提出编为四个军,军长分别为林彪、贺龙、刘伯承、徐向前

雍亲王府
2026-07-16 08:10:19
中国股市:一份“不能买”的股票名单,献给1.6亿股民的真诚忠告

中国股市:一份“不能买”的股票名单,献给1.6亿股民的真诚忠告

股经纵横谈
2026-07-29 20:52:56
终于有经济学家批评体制内退休金太高、加剧代际矛盾,评论区炸锅

终于有经济学家批评体制内退休金太高、加剧代际矛盾,评论区炸锅

慧翔百科
2026-06-23 08:47:02
曼联有望3000万英镑出售拉什福德!英超劲旅成为最热门下家

曼联有望3000万英镑出售拉什福德!英超劲旅成为最热门下家

夜白侃球
2026-07-30 09:32:44
菲尔兹奖为什么公信力高?因为没法被操纵!

菲尔兹奖为什么公信力高?因为没法被操纵!

天水人李成义
2026-07-29 11:00:24
社保最低基数缴费的时代,结束了!

社保最低基数缴费的时代,结束了!

速报小晨
2026-07-29 23:49:10
被质疑帮日本培养新人!王楠承接日本训练营,李隼出任顾问,集训收入曝光

被质疑帮日本培养新人!王楠承接日本训练营,李隼出任顾问,集训收入曝光

林子说事
2026-07-31 01:22:42
男子按摩店选了最贵的套餐,老板娘亲自服务4小时后,一言难尽

男子按摩店选了最贵的套餐,老板娘亲自服务4小时后,一言难尽

皮蛋儿电影
2026-07-24 09:40:33
传闻被证实!被撞销售不幸离世,提车小伙从大喜到大悲仅用两分钟

传闻被证实!被撞销售不幸离世,提车小伙从大喜到大悲仅用两分钟

娱乐的硬糖吖
2026-07-31 03:17:05
日本爱子公主游动物园,身边的神秘男子亲密举动曝光!日媒:身高185cm的高富帅!

日本爱子公主游动物园,身边的神秘男子亲密举动曝光!日媒:身高185cm的高富帅!

日本物语
2026-07-30 22:29:18
新婚33天,陕西爱妻卷款逃往美国,丈夫花费9年把爱妻判刑65年

新婚33天,陕西爱妻卷款逃往美国,丈夫花费9年把爱妻判刑65年

云景侃记
2026-07-29 16:46:46
343斤网红硬闯峨眉山!全程竹竿托腹,晕倒被抬下山,私生活混乱

343斤网红硬闯峨眉山!全程竹竿托腹,晕倒被抬下山,私生活混乱

刘蕳爱下厨
2026-07-29 16:38:42
郑钦文会把赚的代言费吐出来吗?这几年狂赚几个亿,退役也值了

郑钦文会把赚的代言费吐出来吗?这几年狂赚几个亿,退役也值了

搏击江湖
2026-07-30 18:44:02
中方严正交涉新西兰外长:当众吼议员"滚回你的国家",彼得斯栽了

中方严正交涉新西兰外长:当众吼议员"滚回你的国家",彼得斯栽了

王姐懒人家常菜
2026-07-31 02:35:11
香槟开早了!《蜘蛛侠4》首日2.37亿,预测却蒸发掉了一亿,反观《八仙》和《女足》都涨了

香槟开早了!《蜘蛛侠4》首日2.37亿,预测却蒸发掉了一亿,反观《八仙》和《女足》都涨了

娱乐故事
2026-07-30 12:52:25
台风白海豚路径又变,新一轮强降雨8月1日登场,超8省暴雨5省大暴雨

台风白海豚路径又变,新一轮强降雨8月1日登场,超8省暴雨5省大暴雨

老牛讲
2026-07-30 13:58:40
长白山景区一女子翻越警戒线冲向天池,现场游客:工作人员第一时间追赶制止;景区:涉事女子已被公安机关带走

长白山景区一女子翻越警戒线冲向天池,现场游客:工作人员第一时间追赶制止;景区:涉事女子已被公安机关带走

洪观新闻
2026-07-30 16:48:30
27岁麦卡利斯特利用世界杯假期完成植发手术,机场照片曝光头顶植发疤痕

27岁麦卡利斯特利用世界杯假期完成植发手术,机场照片曝光头顶植发疤痕

东方不败然多多
2026-07-31 00:30:10
36岁中超功勋外援官宣登陆泰超!穿10号+将征战亚冠,或反戈国安

36岁中超功勋外援官宣登陆泰超!穿10号+将征战亚冠,或反戈国安

我爱英超
2026-07-30 22:55:42
吴宜泽6-5墨菲,诞生2个意想不到和4个事实,小吴运气真好

吴宜泽6-5墨菲,诞生2个意想不到和4个事实,小吴运气真好

南海浪花
2026-07-31 04:59:49
2026-07-31 08:16:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
4272260文章数 9093关注度
往期回顾 全部

科技要闻

小米澎程N90 Max预售价29.99万

头条要闻

20岁女孩从18楼坠落被送进ICU 男友要她还医药费

头条要闻

20岁女孩从18楼坠落被送进ICU 男友要她还医药费

体育要闻

曝皇马将签罗德里!转会费6000万签约4年

娱乐要闻

周星驰用态度打破快餐式宣发

财经要闻

中共中央政治局:提升资本市场韧性和信心

汽车要闻

FREELANDER神行者8下线 8月10日开启预售/海外版同步推进

态度原创

游戏
旅游
时尚
手机
房产

韩国影游《美女公寓的秘密》上架Steam 有中国美女王涵

旅游要闻

视频丨希腊克里特岛山火持续 大量游客撤离景区

细品赞达亚的红毯妆造,每一套都有彩蛋!

手机要闻

小米澎程N90 Max预售价29.99万元

房产要闻

这个大平层,彻底打破了海口核心资产认知!

无障碍浏览 进入关怀版