网易首页 > 网易号 > 正文 申请入驻

新加坡国大新突破:AI只修改图片需要改的地方,速度提升近2倍!

0
分享至

想要编辑一张照片,但又担心AI把不该动的地方也给改了?新加坡国立大学的研究团队最近发表了一项令人兴奋的研究成果,彻底解决了这个困扰。这项名为"SpotEdit"的技术发表在2024年12月的国际计算机视觉会议上,由秦志斌、谭振雄、王泽青等研究者共同完成。有兴趣深入了解的读者可以通过论文编号arXiv:2512.22323v1查询完整论文。

传统的AI图像编辑就像用大锤敲核桃,总是"牵一发而动全身"。当你只想把照片里的足球换成向日葵时,AI却会把整张照片重新生成一遍,不仅浪费计算资源,还可能让原本完美的背景变得模糊或失真。新加坡国大的研究团队提出了一个看似简单却极其巧妙的问题:编辑图片时,真的需要重新生成每一个区域吗?

SpotEdit技术就像一位精准的外科医生,能够识别出哪些区域需要"手术",哪些区域应该原封不动。这项技术包含两个核心组件:SpotSelector负责识别稳定区域,SpotFusion则确保编辑区域与未编辑区域之间的和谐融合。通过这种精准定位的方式,SpotEdit不仅保持了图像编辑的高质量,还将处理速度提升了近2倍,同时完美保持了非编辑区域的原始保真度。

一、AI编辑的"大材小用"问题

当前的AI图像编辑技术存在一个根本性的"浪费"。就好比你家只有客厅的一盏灯泡坏了,传统方法却要把整栋房子的电路系统都检查并重新布线一遍。在图像编辑领域,现有的扩散变换器模型会对图片的每个像素点进行同等程度的处理,无论这些区域是否真的需要修改。

研究团队发现,在大多数图像编辑任务中,实际需要修改的区域往往只占整张图片的很小一部分。比如说,当用户要求"给这只狗加个围巾"时,背景的草地、天空、远处的建筑物其实都应该保持原样,只有狗狗周围的区域需要重新生成。然而,现有技术会把整张图片当作"待编辑内容",从随机噪声开始重新构建每一个像素,这不仅消耗大量计算资源,还可能在不需要改动的地方引入意外的瑕疵。

这种"一刀切"的处理方式带来了两个明显的弊端。首先是计算资源的巨大浪费,就像用推土机来修剪花园里的一棵小树;其次是对未编辑区域的意外破坏,原本清晰锐利的背景可能会变得模糊或出现细微的色彩偏差。研究团队通过深入分析发现,在扩散模型的生成过程中,不同区域的收敛速度其实是不一样的,这为实现精准编辑提供了理论基础。

二、时间轴上的"收敛舞蹈"

研究团队的一个重要发现是扩散模型在时间维度上的有趣行为。他们观察到,在图像编辑过程中,不同区域会以不同的速度"稳定下来",就像一群舞者在音乐停止后逐个停止舞蹈动作。

具体来说,当AI开始处理一张"给狗狗加围巾"的编辑请求时,背景区域(如草地、天空)会很快稳定并与原始图像保持一致,而狗狗颈部需要添加围巾的区域则会持续变化直到生成过程结束。这种现象就像在一个热水壶中,不同部分的水会以不同速度达到沸点。

研究团队通过详细分析发现,这种差异化的收敛模式并非偶然,而是扩散模型内在机制的体现。在生成过程的早期阶段,模型就能够识别出哪些区域与原始图像高度相似,哪些区域需要根据编辑指令进行实质性修改。这个发现为他们设计精准编辑算法提供了重要的理论依据。

基于这一观察,研究团队意识到可以利用这种时间差异来优化编辑过程。既然某些区域会快速稳定,那么就没有必要继续对它们进行重复计算。这种洞察催生了SpotEdit的核心理念:让AI把注意力和计算资源集中在真正需要编辑的区域上。

三、SpotSelector:AI界的"火眼金睛"

SpotSelector是SpotEdit系统的第一个核心组件,它的作用就像一位经验丰富的编辑师,能够一眼识别出照片中哪些区域需要修改,哪些应该保持原状。这个组件的工作原理建立在一个巧妙的观察基础上:稳定区域会在生成过程早期就与原始图像保持高度的感知相似性。

SpotSelector的工作过程可以比作一位艺术品鉴定师在检查一幅画作。它不是简单地比较像素值的差异,而是使用一种类似人类视觉感知的方法来评估相似性。具体来说,它借鉴了LPIPS(Learned Perceptual Image Patch Similarity)的思想,通过分析图像在视觉感知层面的差异来判断区域稳定性。

这种感知距离的计算涉及图像解码器的多个层级,就像人眼在观察图像时会同时处理颜色、纹理、形状等多种视觉信息。SpotSelector会提取这些不同层级的特征,然后计算重构图像与原始图像之间的感知差异。当某个区域的感知差异低于预设阈值时,就会被标记为"非编辑区域",可以跳过后续的计算处理。

这种方法的巧妙之处在于它避免了简单像素对比可能带来的误判。比如说,如果仅仅比较像素亮度值,可能会因为轻微的光线变化而误判某个本应保持不变的区域需要编辑。而基于感知的评估方法能够更好地反映人类视觉系统的判断标准,确保真正稳定的区域被正确识别。

四、SpotFusion:和谐融合的艺术

识别出稳定区域只是第一步,如何确保编辑区域与非编辑区域之间的和谐过渡才是更大的挑战。SpotFusion组件就是为解决这个问题而设计的,它的作用就像一位技艺精湛的修复师,能够确保新旧部分完美融合,看不出任何接缝痕迹。

在传统方法中,简单地缓存和重用非编辑区域的特征会导致"时间不匹配"的问题。这就像在一部电影中,如果把不同时间拍摄的镜头生硬地剪辑在一起,观众会明显感觉到不协调。在AI图像生成过程中,编辑区域的特征会随着时间步骤不断演化,而缓存的非编辑区域特征却保持静态,这种差异会导致边界处出现明显的视觉不连续。

SpotFusion通过一种动态插值机制解决了这个问题。它不是简单地重用缓存的特征,而是将缓存的非编辑区域特征与原始条件图像的相应特征进行平滑混合。这种混合的程度会根据当前的时间步骤动态调整,在生成过程早期更多地依赖缓存特征,随着过程的推进逐渐向条件图像特征靠拢。

这种时序感知的融合策略确保了编辑区域和非编辑区域在整个生成过程中保持特征上的一致性。就像调色师在混合不同颜料时,需要考虑它们的干燥速度和色彩变化,SpotFusion也考虑了不同区域特征的演化时序,实现真正的无缝融合。

五、注意力机制的精准计算

SpotEdit系统的另一个创新之处在于它对注意力计算的优化。在传统的扩散变换器中,每个位置都需要与所有其他位置进行注意力计算,这就像一个大型会议室中每个人都要和其他所有人进行对话,计算量极其庞大。

SpotEdit采用了一种"部分注意力计算"的策略。在这种机制下,只有需要编辑的区域才会参与查询(Query)计算,而所有区域(包括编辑和非编辑区域)的键值对(Key-Value)信息都会保留,确保空间上下文的完整性。这就像在会议中,只有需要发言的人才会主动说话,但每个人都能听到所有的讨论内容。

这种方法的巧妙之处在于它在减少计算量的同时保持了完整的上下文信息。非编辑区域虽然不参与主动计算,但它们的特征信息仍然通过缓存的键值对为编辑区域提供必要的上下文支持。这确保了编辑结果不会因为上下文信息缺失而出现不自然的边界或语义不一致。

通过这种优化,SpotEdit能够将计算资源精确地投入到真正需要处理的区域,同时保持整体编辑质量不受影响。实验结果显示,这种方法能够实现1.7倍的速度提升,同时在各种质量指标上与原始方法保持相当或更好的表现。

六、实验验证与性能表现

研究团队在两个主要的图像编辑基准数据集上对SpotEdit进行了全面测试:PIE-Bench++和imgEdit-Benchmark。这些测试覆盖了各种常见的编辑任务,包括物体替换、添加元素、删除内容、调整属性、背景修改等多种场景。

在PIE-Bench++数据集上,SpotEdit实现了1.95倍的速度提升,同时在关键质量指标上表现优异。具体来说,CLIP相似度保持在0.741的高水平,结构相似性指标(SSIM)达到0.792,峰值信噪比(PSNR)为18.73分贝,感知距离评分(DISTS)仅为0.136。这些数字背后的含义是,SpotEdit不仅处理速度更快,而且编辑质量完全不输于原始方法。

在imgEdit-Benchmark上的表现同样令人印象深刻,SpotEdit达到了1.67倍的速度提升,各项质量指标与原始方法基本持平或略有改善。特别值得注意的是,在视觉-语言评分测试中,SpotEdit在复杂指令处理方面表现出色,比如"替换"任务得分4.41分,"组合"任务得分2.65分,综合平均分3.77分,仅比原始方法低0.14分。

与其他加速方法的对比更加突出了SpotEdit的优势。传统的缓存加速方法如TaylorSeer虽然能达到3.61倍的速度提升,但质量损失明显,CLIP相似度下降0.033,结构相似性下降0.15。精确编辑方法如Follow-Your-Shape虽然在某些特定场景下表现良好,但速度提升有限,且在保持非编辑区域完整性方面不如SpotEdit。

七、技术细节与创新突破

SpotEdit的技术实现涉及多个精心设计的组件协同工作。在感知相似性计算方面,系统采用了多层特征融合策略,通过VAE解码器的不同层级提取特征信息,然后计算加权L2距离作为最终的感知评分。这种方法比简单的像素级比较更能反映人类视觉感知的特点。

在时序融合机制中,SpotEdit使用了余弦平方函数作为插值权重,这个函数的选择并非随意。研究团队发现,余弦平方函数能够在生成过程早期提供平滑的过渡,后期则快速收敛到条件图像特征,这种变化曲线与扩散模型的内在动态高度匹配。

系统还引入了一个重要的稳定性机制:周期性重置。在长时间的生成过程中,累积的数值误差可能导致缓存特征逐渐偏离理想状态。通过定期刷新缓存内容,SpotEdit确保了整个编辑过程的数值稳定性。实验显示,没有这个机制时,虽然速度可以进一步提升到2.25倍,但质量会有明显下降。

另一个值得注意的技术特点是SpotEdit的阈值自适应性。系统使用τ=0.2作为默认阈值来区分编辑和非编辑区域,但这个值可以根据具体应用场景进行调整。较小的阈值会使系统更保守,更多区域会被标记为需要编辑;较大的阈值则会更激进,可能获得更高的加速比但需要权衡质量风险。

八、兼容性与扩展潜力

SpotEdit的一个重要特点是它与现有加速技术的良好兼容性。研究团队发现,SpotEdit的空间维度优化与其他方法的时间维度或特征维度优化是正交的,这意味着可以将它们组合使用以获得更大的性能提升。

实验验证了这种兼容性的实用价值。将SpotEdit与TeaCache结合使用时,在imgEdit-Benchmark上可以达到3.94倍的速度提升,质量损失微乎其微。与TaylorSeer结合时,速度提升达到3.85倍,同时保持了良好的编辑质量。这种可组合性使得SpotEdit不是简单的竞争方案,而是可以与现有技术栈无缝集成的增强方案。

研究团队还在Qwen-Image-Edit模型上验证了SpotEdit的通用性。结果显示,即使在不同的基础模型上,SpotEdit同样能够实现显著的性能提升,在PIE-Bench++上达到1.72倍加速,在imgEdit-Benchmark上达到1.59倍加速,且质量指标保持稳定甚至略有改善。

这种跨模型的兼容性表明SpotEdit的设计理念具有广泛的适用性,不局限于特定的模型架构或训练方式。这为该技术的实际部署和推广应用提供了有力保障。

九、实际应用价值与未来展望

SpotEdit的出现对图像编辑应用领域具有重要的实用价值。在移动设备上运行图像编辑应用时,计算资源和电池续航是重要考虑因素。SpotEdit的高效性使得在手机或平板电脑上实现高质量的AI图像编辑变得更加可行,用户无需等待漫长的处理时间就能获得满意的编辑结果。

对于专业图像处理工作流程,SpotEdit同样带来了显著价值。设计师和摄影师在进行批量图像处理时,往往需要对大量照片应用类似的局部修改。SpotEdit的高效性可以大幅缩短处理时间,提高工作效率,同时确保非编辑区域的完美保真度,这对于商业摄影和广告制作尤其重要。

在云端图像处理服务中,SpotEdit的节能特性具有重要的经济和环保意义。通过减少不必要的计算量,服务提供商可以降低服务器能耗和运营成本,同时提高服务响应速度,改善用户体验。这种效率提升在处理大规模用户请求时会产生累积效应,带来显著的资源节约。

从技术发展趋势来看,SpotEdit代表了AI图像处理向更加智能化和精细化方向发展的重要一步。未来,这种区域感知的处理理念可能会扩展到视频编辑、3D内容生成等更复杂的媒体处理任务中,推动整个数字内容创作行业的技术革新。

说到底,SpotEdit解决的是一个看似简单却影响深远的问题:让AI更聪明地工作,而不是更努力地工作。通过精准识别真正需要处理的区域,这项技术不仅提高了处理效率,更重要的是保护了用户珍贵的原始内容。当你想给照片做一个小小的调整时,再也不用担心AI会"画蛇添足",把完美的背景也给改坏了。这种技术进步让普通用户也能享受到专业级的图像编辑体验,而且速度更快,效果更好。对于整个AI图像处理领域来说,SpotEdit开启了一个新的思路方向,证明了有时候最好的创新并不是增加更多功能,而是让现有功能变得更加智能和高效。

Q&A

Q1:SpotEdit技术是怎么知道图片的哪些地方不需要修改的?

A:SpotEdit使用了一种类似人眼观察的方法来判断。它会分析图片在生成过程中不同区域的稳定性,那些很快就与原始图片保持高度相似的区域会被识别为不需要编辑的区域。具体来说,它采用了类似LPIPS的感知距离计算,通过多层特征分析来评估区域稳定性,就像有经验的编辑师能一眼看出照片哪些部分需要调整一样。

Q2:使用SpotEdit会不会影响图片编辑的质量?

A:不会,反而可能会更好。实验结果显示,SpotEdit在提高1.7-1.9倍处理速度的同时,各项质量指标都与原始方法相当或略有改善。比如在PIE-Bench++测试中,CLIP相似度保持0.741,结构相似性达到0.792,这证明SpotEdit既快又好。最重要的是,它能完美保持非编辑区域的原始质量,避免了传统方法可能对背景造成的意外损害。

Q3:SpotEdit可以和其他AI加速技术一起使用吗?

A:可以,这是SpotEdit的一大优势。研究团队验证了它与TeaCache、TaylorSeer等现有加速技术的兼容性,组合使用时可以获得更大的性能提升。比如SpotEdit与TeaCache结合能达到3.94倍加速,与TaylorSeer结合能达到3.85倍加速,质量损失很小。这是因为SpotEdit主要优化空间维度,而其他方法优化时间或特征维度,它们是互补的而非竞争的关系。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
崩了!35所公办大学跌50分以上!本科线上就能录!

崩了!35所公办大学跌50分以上!本科线上就能录!

勋哥教你填志愿
2026-07-19 06:04:07
太阳报:若萨利巴重伤,阿森纳考虑免签斯通斯

太阳报:若萨利巴重伤,阿森纳考虑免签斯通斯

懂球帝
2026-07-19 23:22:23
为什么说不能干涉别人的因果?网友:容易反噬到自己

为什么说不能干涉别人的因果?网友:容易反噬到自己

康富贵碎碎念
2026-07-19 14:16:22
新冠卷土重来?医生建议:家中常备这5个东西,关键时刻能救命

新冠卷土重来?医生建议:家中常备这5个东西,关键时刻能救命

健康之光
2026-07-16 18:40:07
CBA改制公布!升降级回归,曝多位老板已准备卖队!外援新政落地

CBA改制公布!升降级回归,曝多位老板已准备卖队!外援新政落地

刘哥谈体育
2026-07-19 04:29:58
别傻走!人民日报:比散步更长寿的,其实是这运动

别傻走!人民日报:比散步更长寿的,其实是这运动

华庭讲美食
2026-07-15 03:35:57
卷巨额遗产逃英国,给杨振宁戴绿帽子?丧夫9个月,翁帆又遇麻烦

卷巨额遗产逃英国,给杨振宁戴绿帽子?丧夫9个月,翁帆又遇麻烦

星河不入我
2026-07-18 10:10:31
80年,杨勇没能升任总参谋长,见到邓小平钦定的人选后,大喊:哥

80年,杨勇没能升任总参谋长,见到邓小平钦定的人选后,大喊:哥

谈古论今历史有道
2026-05-28 06:00:03
诺兰玩这么大?没让宙斯出场,却拍出了今年最震撼的神话

诺兰玩这么大?没让宙斯出场,却拍出了今年最震撼的神话

追星雷达站
2026-07-19 00:13:00
真正不缺钱的男人,一眼就能看出来:这3个特征藏不住

真正不缺钱的男人,一眼就能看出来:这3个特征藏不住

三农老历
2026-07-19 20:46:20
网曝印度人在加拿大闹事,抗议拒绝给印度留学生颁发工作许可证

网曝印度人在加拿大闹事,抗议拒绝给印度留学生颁发工作许可证

小徐讲八卦
2026-07-19 09:20:00
无人机在8861米抓住的铁证:珠峰的雪,正被南亚的“脏东西”染黑

无人机在8861米抓住的铁证:珠峰的雪,正被南亚的“脏东西”染黑

蜉蝣说
2026-07-18 23:15:00
新华社消息|美军对伊朗发动新一轮空袭

新华社消息|美军对伊朗发动新一轮空袭

新华社
2026-07-19 09:52:04
A股:刚刚,周末两大重磅利好,释放一信号,下周牛市怎么看?

A股:刚刚,周末两大重磅利好,释放一信号,下周牛市怎么看?

夜深爱杂谈
2026-07-19 20:52:06
15人名单公布,全队抵达澳门!中国女排对手主力出战,赵勇有压力

15人名单公布,全队抵达澳门!中国女排对手主力出战,赵勇有压力

跑者排球视角
2026-07-19 08:57:19
势各异!新疆及四川盆地高温短期仍具极端性!渝破史纪已毫无悬念

势各异!新疆及四川盆地高温短期仍具极端性!渝破史纪已毫无悬念

声情专递
2026-07-19 21:55:50
康熙长子胤禔被圈禁26年,无聊到只能生孩子玩,结果生了20个孩子

康熙长子胤禔被圈禁26年,无聊到只能生孩子玩,结果生了20个孩子

云居历史
2026-07-12 01:00:32
中铁建百亿项目总被调查

中铁建百亿项目总被调查

地产微资讯
2026-07-19 11:07:37
哈工程女导师学术不端,还说不怕学生告,她丈夫是哈工程大学副院长

哈工程女导师学术不端,还说不怕学生告,她丈夫是哈工程大学副院长

江山挥笔
2026-07-19 09:16:29
属龙人恭喜!7月20号,人在家中坐,喜从天上来,终于要翻身了

属龙人恭喜!7月20号,人在家中坐,喜从天上来,终于要翻身了

叮当当科技
2026-07-20 00:42:41
2026-07-20 02:20:49
科技行者 incentive-icons
科技行者
科技正在如何变革商业世界
9222文章数 566关注度
往期回顾 全部

科技要闻

Kimi K3单项登顶 整体落后前沿模型2-3个月

头条要闻

伊朗发动袭击:密集轰炸

头条要闻

伊朗发动袭击:密集轰炸

体育要闻

世界杯决赛,从“澡盆德比”500年前讲起

娱乐要闻

王侃因病逝世 两年前与父亲牛犇同台

财经要闻

任泽平VIP会员自称爆仓巨亏千万

汽车要闻

被追尾还能自动加速逃生?华为乾崑智驾ADS 5.0 OTA时间表发布,只有这台车不用等!

态度原创

本地
数码
教育
公开课
军事航空

本地新闻

十年了,为什么鬼怪CP还能让人美美嗑上?

数码要闻

AMD Zen6处理器跑分还再涨!同核心提升达35%

教育要闻

2026年高考“超级爆冷”:985大学仅549分,211跌到413分,全国罕见!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

两名美军被伊朗炸死 特朗普:令人难过

无障碍浏览 进入关怀版