网易首页 > 网易号 > 正文 申请入驻

北大腾讯团队只改一行代码,让AI图像生成效果提升20%!

0
分享至


这项研究由北京大学和腾讯混元实验室共同完成,并于2026年1月发表在计算机视觉领域的顶级学术期刊上。论文编号为arXiv:2601.17124,感兴趣的读者可以通过此编号查找完整的技术细节。

想象一下,你正在烘焙蛋糕,面前有两个不同的烤箱。一个烤箱只能设定几个固定的温度档位,比如低温、中温、高温,这就像是现在AI绘画中的"离散模式"。另一个烤箱可以精确调节到任意温度,就像"连续模式"。长期以来,AI图像生成领域就被这样分成了两个阵营,无法统一比较哪种方式更好。

但北京大学和腾讯混元的研究团队发现了一个巧妙的解决方案。他们注意到,现有的图像编码技术FSQ就像一个可以在两种模式间切换的烤箱,但这个烤箱有个致命缺陷:温度分布不均匀。大多数食物都挤在中间几个温度档位,而边缘的档位几乎用不到,造成了严重的"温度浪费"。

研究团队的洞察力在于,他们发现神经网络处理图像时产生的数据分布就像钟形曲线一样,大部分数值集中在中间,两端很少。但FSQ采用的是平均分布的量化方式,就好比用同样大小的盒子来装不同数量的物品,必然会造成中间的盒子装得满满当当,边缘的盒子却空空如也。

解决这个问题的方法出人意料地简单。研究团队只是将FSQ中的一个数学函数从"tanh"替换成了"2 × sigmoid(1.6x) - 1",仅仅一行代码的改动。这个看似微小的调整却产生了神奇的效果:它将原本钟形分布的数据重新映射成了均匀分布,就像把挤在中间的物品重新平均分配到所有盒子里。

这种改进后的方法被命名为iFSQ。为了验证效果,研究团队设计了一个精巧的实验。他们用500,000个符合标准正态分布的数据点,测试不同参数设置下的分布匹配效果。结果显示,当参数α设置为1.6时,转换后的分布与理想的均匀分布最为接近,无论是通过均方根误差还是统计学上的KS检验,都明显优于原始的FSQ方法。

更令人惊喜的是,这种改进在图像重建质量上带来了显著提升。在ImageNet数据集上的测试表明,iFSQ在峰值信噪比、结构相似性和感知质量等多个指标上都超过了原版FSQ。即使在从未见过的COCO数据集上测试,同样的改进趋势依然成立,证明了这种方法的普适性。

研究团队进一步探索了这个发现的深层含义。他们发现,在图像生成任务中,存在一个最佳的量化位数"甜蜜点"——4位编码。就像调节相机的分辨率一样,太低会失去细节,太高则浪费存储空间还可能带来噪声。4位编码恰好在保持图像质量和压缩效率之间找到了完美平衡。

基于这个统一的编码框架,研究团队终于可以公平地比较两种主流的AI图像生成方法:自回归模型和扩散模型。这就像终于可以在同一个跑道上比较两款不同的赛车性能。结果发现了一个有趣的现象:自回归模型在训练初期收敛很快,就像起跑时加速迅猛的赛车,但随着训练进行,扩散模型逐渐显示出更强的最终性能,就像耐力更好的长跑选手最终超越了短跑冠军。

这个发现揭示了一个重要的深层原理:自回归模型严格的序列依赖特性虽然让它们在早期表现出色,但也可能限制了它们达到的上限。相比之下,扩散模型虽然起步较慢,但其并行处理的特性让它们有更大的提升空间。

研究团队还深入分析了自回归模型内部的工作机制。他们发现这类模型在处理图像时会经历一个明显的"角色转换"过程:前几层专注于理解当前图像内容,就像先仔细观察眼前的拼图碎片;而后几层则转向预测下一个应该放置的碎片。这种转换通常发生在网络深度的大约三分之一处,这个比例在不同规模的模型中都保持相对稳定。

基于这个观察,研究团队进一步改进了自回归模型的训练方法。他们借鉴了一种叫做"表征对齐"的技术,就像给学生提供标准答案来指导学习一样,让模型的中间层与预训练的视觉特征保持一致。实验证明,当这种对齐发生在网络的第8层(总共24层)时,效果最佳,这恰好印证了前面关于角色转换的发现。

有趣的是,自回归模型对这种指导的需求比扩散模型更强烈。就像一个需要更多监督的学生,自回归模型需要2.0的对齐系数才能达到最佳效果,而扩散模型只需要0.5就足够了。这可能与自回归模型的强制性序列约束有关,需要更强的外部指导来克服这种限制。

这项研究的意义远超技术本身。它不仅提供了一个简单而有效的改进方法,更重要的是建立了一个公平比较不同AI生成方法的平台。就像制定了统一的评价标准,让原本无法直接比较的技术路线有了客观的评判依据。

从实际应用角度来看,iFSQ方法几乎没有增加任何计算成本,却能带来20%以上的性能提升,这种投入产出比在工程实践中极具价值。更重要的是,它为理解和改进AI图像生成技术提供了新的思路:不是一味追求更复杂的模型架构,而是从数据分布的角度思考如何优化现有方法。

这个发现也启发了对AI技术发展路径的思考。有时候,真正的突破并不来自完全颠覆性的创新,而是来自对现有技术深层机制的洞察和巧妙的微调。就像这次研究一样,一行代码的改动背后,是对数据分布、信息理论和神经网络工作机制的深刻理解。

说到底,这项研究最吸引人的地方在于它的简洁性和普适性。在AI技术日益复杂化的今天,能够找到如此简单而有效的改进方案实属难得。它提醒我们,有时候最好的解决方案就隐藏在最基础的原理之中,只要我们愿意深入思考和仔细观察。对于AI图像生成技术的未来发展,这项研究不仅提供了一个实用的工具,更重要的是展示了一种研究思路:通过统一的框架来理解和比较不同技术路线,从而推动整个领域的进步。

Q&A

Q1:iFSQ具体是如何改进FSQ的?

A:iFSQ只是将FSQ中的tanh函数替换为2×sigmoid(1.6x)-1,仅改动一行代码。这个改动将原本钟形分布的数据重新映射成均匀分布,解决了原版FSQ中量化位利用不均的问题,让所有编码位都能得到充分利用。

Q2:为什么4位编码是图像生成的最佳选择?

A:4位编码在图像质量和压缩效率间找到了最佳平衡点。太低的位数会丢失重要的图像细节,太高的位数虽然保留更多信息,但会浪费存储空间并可能引入噪声,而4位恰好能在保持视觉质量的同时实现高效压缩。

Q3:自回归模型和扩散模型在图像生成上有什么区别?

A:自回归模型在训练初期收敛很快,但受到严格序列约束的限制,最终性能上限相对较低。扩散模型虽然起步较慢,但由于其并行处理特性,在充足的训练时间下能达到更高的生成质量,特别适合对最终效果要求很高的应用场景。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
外交部发言人反问日媒:“你见过有人未经允许持刀进入使馆与大使交谈的先例吗?”

外交部发言人反问日媒:“你见过有人未经允许持刀进入使馆与大使交谈的先例吗?”

环球网资讯
2026-03-25 15:39:26
停炸五天的真正含义:伊朗被迫进入二选一困局

停炸五天的真正含义:伊朗被迫进入二选一困局

斌闻天下
2026-03-26 07:45:03
以色列人哭了:这不是该发生在劣等民族身上的吗?

以色列人哭了:这不是该发生在劣等民族身上的吗?

李荣茂
2026-03-23 18:59:00
53岁宁静近况曝光!29年前嫁美国演员生一子,离婚后尽享单身生活

53岁宁静近况曝光!29年前嫁美国演员生一子,离婚后尽享单身生活

代军哥哥谈娱乐
2026-03-25 11:31:55
中方驳斥“闯馆事件”日方荒谬说法:你见过未经允许持刀进入使馆同大使交谈的先例吗?

中方驳斥“闯馆事件”日方荒谬说法:你见过未经允许持刀进入使馆同大使交谈的先例吗?

环球网资讯
2026-03-26 07:09:09
我想过Sora会死,但没想到这么快。

我想过Sora会死,但没想到这么快。

差评XPIN
2026-03-26 00:04:51
4月1日医保7号令落地!1965-1985年出生的,这6件事务必抓紧办

4月1日医保7号令落地!1965-1985年出生的,这6件事务必抓紧办

混沌录
2026-03-25 15:50:11
张雪峰去世事件升级!很多人连夜下单AED,有店铺一天销售100多台

张雪峰去世事件升级!很多人连夜下单AED,有店铺一天销售100多台

火山詩话
2026-03-26 07:32:38
伊朗议长和外长被移出美以清除名单,“时限4到5天”!专家:若达成协议最慌的是以色列!特朗普:油价涨、股市跌,我无所谓

伊朗议长和外长被移出美以清除名单,“时限4到5天”!专家:若达成协议最慌的是以色列!特朗普:油价涨、股市跌,我无所谓

每日经济新闻
2026-03-26 12:20:14
经济学历巴曙松被带走调查

经济学历巴曙松被带走调查

地产微资讯
2026-03-25 20:49:47
布朗31分8板8助凯尔特人终结雷霆12连胜,亚历山大33分8助攻

布朗31分8板8助凯尔特人终结雷霆12连胜,亚历山大33分8助攻

湖人崛起
2026-03-26 10:00:59
两省省委领导班子调整

两省省委领导班子调整

上观新闻
2026-03-25 15:07:07
“住宅禁放骨灰盒”新规出炉,引争议!网友:可以去化房地产库存

“住宅禁放骨灰盒”新规出炉,引争议!网友:可以去化房地产库存

火山詩话
2026-03-26 11:11:22
原来她是张雪峰前妻,90后历史学博士‌,两人离婚后曾一起上节目

原来她是张雪峰前妻,90后历史学博士‌,两人离婚后曾一起上节目

大铁猫娱乐
2026-03-25 13:03:57
四天619次进攻、6090人伤亡:俄春季攻势为何高伤亡低战果?

四天619次进攻、6090人伤亡:俄春季攻势为何高伤亡低战果?

高博新视野
2026-03-25 08:00:28
广东一男子买啤酒抽中电动车大奖,将中奖二维码发网上询问后被他人扫走核销,网友:“这下又上了一课”

广东一男子买啤酒抽中电动车大奖,将中奖二维码发网上询问后被他人扫走核销,网友:“这下又上了一课”

洪观新闻
2026-03-26 10:56:49
“史上最惨”的成都糖酒会,彻底撕开了白酒行业的遮羞布

“史上最惨”的成都糖酒会,彻底撕开了白酒行业的遮羞布

财经早餐
2026-03-25 22:42:59
万科高管被要求退还薪酬

万科高管被要求退还薪酬

地产微资讯
2026-03-26 12:22:04
曾因污言秽语被封禁的张雪峰,凭什么让郑大悼念,新华社发讣告?

曾因污言秽语被封禁的张雪峰,凭什么让郑大悼念,新华社发讣告?

观察者海风
2026-03-25 22:10:33
美方提“15点计划”,伊朗称“又一个谎言”,美国“一边准备谈判一边握拳”

美方提“15点计划”,伊朗称“又一个谎言”,美国“一边准备谈判一边握拳”

环球网资讯
2026-03-26 06:58:33
2026-03-26 13:56:49
科技行者 incentive-icons
科技行者
科技正在如何变革商业世界
7745文章数 556关注度
往期回顾 全部

科技要闻

Meta高管狂分百亿期权,700名员工却下岗

头条要闻

伊朗议长和外长暂被移出美以清除名单 时限4到5天

头条要闻

伊朗议长和外长暂被移出美以清除名单 时限4到5天

体育要闻

35岁替补门将,凭什么入选英格兰队?

娱乐要闻

张雪峰家人首发声 不设追思会丧事从简

财经要闻

黄仁勋:芯片公司的时代已经结束了

汽车要闻

一汽奥迪A6L e-tron开启预售 CLTC最大续航815km

态度原创

亲子
手机
艺术
游戏
公开课

亲子要闻

躺平的孩子意外觉醒了,在父母学会当“乌龟”!

手机要闻

三星One UI 9前瞻:小部件更方正、Now Bar动画更丝滑

艺术要闻

哪一座桥不是风景?

IGN认为Xbox机会来了!新主机要转守为攻 重塑自我

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版