网易首页 > 网易号 > 正文 申请入驻

北大腾讯团队只改一行代码,让AI图像生成效果提升20%!

0
分享至

这项研究由北京大学和腾讯混元实验室共同完成,并于2026年1月发表在计算机视觉领域的顶级学术期刊上。论文编号为arXiv:2601.17124,感兴趣的读者可以通过此编号查找完整的技术细节。

想象一下,你正在烘焙蛋糕,面前有两个不同的烤箱。一个烤箱只能设定几个固定的温度档位,比如低温、中温、高温,这就像是现在AI绘画中的"离散模式"。另一个烤箱可以精确调节到任意温度,就像"连续模式"。长期以来,AI图像生成领域就被这样分成了两个阵营,无法统一比较哪种方式更好。

但北京大学和腾讯混元的研究团队发现了一个巧妙的解决方案。他们注意到,现有的图像编码技术FSQ就像一个可以在两种模式间切换的烤箱,但这个烤箱有个致命缺陷:温度分布不均匀。大多数食物都挤在中间几个温度档位,而边缘的档位几乎用不到,造成了严重的"温度浪费"。

研究团队的洞察力在于,他们发现神经网络处理图像时产生的数据分布就像钟形曲线一样,大部分数值集中在中间,两端很少。但FSQ采用的是平均分布的量化方式,就好比用同样大小的盒子来装不同数量的物品,必然会造成中间的盒子装得满满当当,边缘的盒子却空空如也。

解决这个问题的方法出人意料地简单。研究团队只是将FSQ中的一个数学函数从"tanh"替换成了"2 × sigmoid(1.6x) - 1",仅仅一行代码的改动。这个看似微小的调整却产生了神奇的效果:它将原本钟形分布的数据重新映射成了均匀分布,就像把挤在中间的物品重新平均分配到所有盒子里。

这种改进后的方法被命名为iFSQ。为了验证效果,研究团队设计了一个精巧的实验。他们用500,000个符合标准正态分布的数据点,测试不同参数设置下的分布匹配效果。结果显示,当参数α设置为1.6时,转换后的分布与理想的均匀分布最为接近,无论是通过均方根误差还是统计学上的KS检验,都明显优于原始的FSQ方法。

更令人惊喜的是,这种改进在图像重建质量上带来了显著提升。在ImageNet数据集上的测试表明,iFSQ在峰值信噪比、结构相似性和感知质量等多个指标上都超过了原版FSQ。即使在从未见过的COCO数据集上测试,同样的改进趋势依然成立,证明了这种方法的普适性。

研究团队进一步探索了这个发现的深层含义。他们发现,在图像生成任务中,存在一个最佳的量化位数"甜蜜点"——4位编码。就像调节相机的分辨率一样,太低会失去细节,太高则浪费存储空间还可能带来噪声。4位编码恰好在保持图像质量和压缩效率之间找到了完美平衡。

基于这个统一的编码框架,研究团队终于可以公平地比较两种主流的AI图像生成方法:自回归模型和扩散模型。这就像终于可以在同一个跑道上比较两款不同的赛车性能。结果发现了一个有趣的现象:自回归模型在训练初期收敛很快,就像起跑时加速迅猛的赛车,但随着训练进行,扩散模型逐渐显示出更强的最终性能,就像耐力更好的长跑选手最终超越了短跑冠军。

这个发现揭示了一个重要的深层原理:自回归模型严格的序列依赖特性虽然让它们在早期表现出色,但也可能限制了它们达到的上限。相比之下,扩散模型虽然起步较慢,但其并行处理的特性让它们有更大的提升空间。

研究团队还深入分析了自回归模型内部的工作机制。他们发现这类模型在处理图像时会经历一个明显的"角色转换"过程:前几层专注于理解当前图像内容,就像先仔细观察眼前的拼图碎片;而后几层则转向预测下一个应该放置的碎片。这种转换通常发生在网络深度的大约三分之一处,这个比例在不同规模的模型中都保持相对稳定。

基于这个观察,研究团队进一步改进了自回归模型的训练方法。他们借鉴了一种叫做"表征对齐"的技术,就像给学生提供标准答案来指导学习一样,让模型的中间层与预训练的视觉特征保持一致。实验证明,当这种对齐发生在网络的第8层(总共24层)时,效果最佳,这恰好印证了前面关于角色转换的发现。

有趣的是,自回归模型对这种指导的需求比扩散模型更强烈。就像一个需要更多监督的学生,自回归模型需要2.0的对齐系数才能达到最佳效果,而扩散模型只需要0.5就足够了。这可能与自回归模型的强制性序列约束有关,需要更强的外部指导来克服这种限制。

这项研究的意义远超技术本身。它不仅提供了一个简单而有效的改进方法,更重要的是建立了一个公平比较不同AI生成方法的平台。就像制定了统一的评价标准,让原本无法直接比较的技术路线有了客观的评判依据。

从实际应用角度来看,iFSQ方法几乎没有增加任何计算成本,却能带来20%以上的性能提升,这种投入产出比在工程实践中极具价值。更重要的是,它为理解和改进AI图像生成技术提供了新的思路:不是一味追求更复杂的模型架构,而是从数据分布的角度思考如何优化现有方法。

这个发现也启发了对AI技术发展路径的思考。有时候,真正的突破并不来自完全颠覆性的创新,而是来自对现有技术深层机制的洞察和巧妙的微调。就像这次研究一样,一行代码的改动背后,是对数据分布、信息理论和神经网络工作机制的深刻理解。

说到底,这项研究最吸引人的地方在于它的简洁性和普适性。在AI技术日益复杂化的今天,能够找到如此简单而有效的改进方案实属难得。它提醒我们,有时候最好的解决方案就隐藏在最基础的原理之中,只要我们愿意深入思考和仔细观察。对于AI图像生成技术的未来发展,这项研究不仅提供了一个实用的工具,更重要的是展示了一种研究思路:通过统一的框架来理解和比较不同技术路线,从而推动整个领域的进步。

Q&A

Q1:iFSQ具体是如何改进FSQ的?

A:iFSQ只是将FSQ中的tanh函数替换为2×sigmoid(1.6x)-1,仅改动一行代码。这个改动将原本钟形分布的数据重新映射成均匀分布,解决了原版FSQ中量化位利用不均的问题,让所有编码位都能得到充分利用。

Q2:为什么4位编码是图像生成的最佳选择?

A:4位编码在图像质量和压缩效率间找到了最佳平衡点。太低的位数会丢失重要的图像细节,太高的位数虽然保留更多信息,但会浪费存储空间并可能引入噪声,而4位恰好能在保持视觉质量的同时实现高效压缩。

Q3:自回归模型和扩散模型在图像生成上有什么区别?

A:自回归模型在训练初期收敛很快,但受到严格序列约束的限制,最终性能上限相对较低。扩散模型虽然起步较慢,但由于其并行处理特性,在充足的训练时间下能达到更高的生成质量,特别适合对最终效果要求很高的应用场景。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“我们自愿有何罪”?三男三女聚众淫乱,三亚高知换妻游戏案始末

“我们自愿有何罪”?三男三女聚众淫乱,三亚高知换妻游戏案始末

易玄
2026-09-13 11:43:30
刺伤迪拜航空机长的副驾驶,身份披露:阿曼公民,曾因极端主义观点被另一家航司解职,“似乎存在自杀意图”

刺伤迪拜航空机长的副驾驶,身份披露:阿曼公民,曾因极端主义观点被另一家航司解职,“似乎存在自杀意图”

极目新闻
2026-10-03 09:23:31
日媒:中国男足弱得难以置信;日网友:FIFA如何能把国足送进世界杯?

日媒:中国男足弱得难以置信;日网友:FIFA如何能把国足送进世界杯?

漫川舟船
2026-10-03 11:03:43
随着日本0-1,亚运会男足冠军、亚军、季军全部诞生

随着日本0-1,亚运会男足冠军、亚军、季军全部诞生

侧身凌空斩
2026-10-03 20:22:40
林昀儒把事闹大了!正式申诉状告林诗栋,张本智和也吃过这个亏

林昀儒把事闹大了!正式申诉状告林诗栋,张本智和也吃过这个亏

青橘罐头
2026-10-03 21:57:31
花几千买的手机,凭什么不能自己做主?

花几千买的手机,凭什么不能自己做主?

光锥观察
2026-10-01 10:00:08
泽连斯基当着日本记者的面,直接把话点向中国:中国体量这么大

泽连斯基当着日本记者的面,直接把话点向中国:中国体量这么大

叶葉夜
2026-10-03 18:04:26
金裕贞巴黎穿抹胸裙,甜美形象一夜翻篇

金裕贞巴黎穿抹胸裙,甜美形象一夜翻篇

浅遇时光
2026-10-03 02:00:01
男子捐80万建教学楼 举报钱款去向不明 反被刑拘600天

男子捐80万建教学楼 举报钱款去向不明 反被刑拘600天

闪电新闻
2026-10-03 16:33:47
车评人称其烤串店未开业先收差评,质疑平台审核机制存漏洞 目前虚假评论已被下架

车评人称其烤串店未开业先收差评,质疑平台审核机制存漏洞 目前虚假评论已被下架

红星新闻
2026-10-03 13:02:10
2种茶叶已被列入伤肝名单,再爱喝也要管住嘴,很多人天天都在喝

2种茶叶已被列入伤肝名单,再爱喝也要管住嘴,很多人天天都在喝

椰青美食分享
2026-10-04 00:31:33
中国体坛最伟大7名运动员,林丹上榜,苏炳添第3,第1当之无愧

中国体坛最伟大7名运动员,林丹上榜,苏炳添第3,第1当之无愧

娱说瑜悦
2026-10-03 14:49:56
中国U23男足战胜乌兹别克斯坦,28年来首获亚运铜牌

中国U23男足战胜乌兹别克斯坦,28年来首获亚运铜牌

澎湃新闻
2026-10-03 16:43:08
生娃不用自己掏钱了,会有更多人敢生吗?

生娃不用自己掏钱了,会有更多人敢生吗?

育娲人口智库
2026-09-30 17:23:01
国补为什么没有把消费拉起来?

国补为什么没有把消费拉起来?

小筑财经
2026-10-03 08:40:18
战略大调整!马琳官宣国乒新布局,王曼昱淡出洛杉矶奥运培养计划

战略大调整!马琳官宣国乒新布局,王曼昱淡出洛杉矶奥运培养计划

体育见习官
2026-10-03 16:48:58
1-2!中网大爆冷:女单头号种子被逆转,世界第一无缘再战郑钦文

1-2!中网大爆冷:女单头号种子被逆转,世界第一无缘再战郑钦文

吴锎旅行ing
2026-10-03 23:38:57
普京说可能在下个月APEC峰会期间举行俄中美三方会晤,外交部:中方愿同各方一道,共同推动APEC“中国年”取得丰硕成果

普京说可能在下个月APEC峰会期间举行俄中美三方会晤,外交部:中方愿同各方一道,共同推动APEC“中国年”取得丰硕成果

都市快报橙柿互动
2026-10-03 20:04:55
张展硕无缘亚运MVP遭打压?五人评选小组中国占两席包括乒乓名宿丁宁

张展硕无缘亚运MVP遭打压?五人评选小组中国占两席包括乒乓名宿丁宁

杨华评论
2026-10-03 23:59:06
尴尬了!某汽车厂商2000元邀头部车评人做视频,博主反问怎么养活300人,网友:嫌弃少可以婉拒,挂网上讽刺别人,寒碜的是自己

尴尬了!某汽车厂商2000元邀头部车评人做视频,博主反问怎么养活300人,网友:嫌弃少可以婉拒,挂网上讽刺别人,寒碜的是自己

火山詩话
2026-10-02 08:30:52
2026-10-04 03:59:00
科技行者 incentive-icons
科技行者
科技正在如何变革商业世界
10040文章数 569关注度
往期回顾 全部

科技要闻

英伟达盘中创历史新高,市值逼近6万亿美元

头条要闻

刚刚拿到绿卡 中国籍夫妻突发车祸身亡

头条要闻

刚刚拿到绿卡 中国籍夫妻突发车祸身亡

体育要闻

这个讨论了一夏天的问题,马刺有答案了吗

娱乐要闻

马思纯一家爬山祈福!素颜出镜笑容甜

财经要闻

4亿台电视挂墙落灰 为何没人愿意开了?

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

家居
时尚
本地
健康
数码

家居要闻

2026建博会(广州) 公装联探展交流活动

Chemena Kamali写给Chloé的又一封情书

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

刷酸祛痘,为什么有人翻车?

数码要闻

开发者将iPhone 17 Pro Max变成MacBook Pro的第二块GPU

无障碍浏览 进入关怀版