![]()
近日,开源社区相继公布了针对英伟达RTX 30系列及部分RTX 40系列显卡的非官方GPU解锁方案。
据已知的相关测试与演示显示,通过调整GPU底层配置,可提升特定张量运算指令的发射速率。其中,RTX 3090 Ti的BF16矩阵乘法吞吐量提升约80%,RTX 4090在特定FP16、BF16运算模式下的指令吞吐量则接近翻倍。
Ampere架构:RTX 30系列特定矩阵运算性能提升
开源项目gpu-unlock采用Linux内核模块,面向GA102、GA103、GA104和GA106等GPU芯片,调整相关底层配置,提升FP16、BF16输入配合FP32累加模式下的特定融合乘加(FMA)指令发射速率。
以RTX 3090 Ti为例,在450W功耗上限下开展的8192³密集矩阵乘法(GEMM)测试中,FP16吞吐量从87.46 TFLOPS提升至118.39 TFLOPS,增幅约35%;BF16从87.50提升至157.41 TFLOPS,增幅约80%;TF32则从42.58提升至82.61 TFLOPS,增幅约94%。测试结果取五次运行的中位数。
![]()
上述数据表明,解锁收益与运算精度密切相关;即使成功完成底层配置修改,不同型号显卡也未必能获得相同幅度的性能提升。
Ada Lovelace架构:RTX 4090特定指令吞吐量接近翻倍
针对Ada Lovelace架构的另一开源项目公布了RTX 4090的测试数据。在FP16输入、FP32累加模式下,指令吞吐量从约165.6 TFLOPS提升至331.6 TFLOPS;在BF16输入、FP32累加模式下,则从约165.5提升至330.6 TFLOPS。
公开微基准测试还显示,RTX 4070 Ti SUPER(AD103)在特定FP16和TF32指令测试中也实现了接近两倍的吞吐量。不过,这类微基准测试反映的是特定计算路径的性能,而非实际应用的整体速度。RTX 4060 Ti 16GB(AD106)虽已有部分验证记录,但公开的同卡解锁前后性能对比仍较有限。
![]()
实现机制与兼容性
这些方案并非传统意义上的显卡硬件改造,也不以修改英伟达驱动为必要条件。其核心是在系统启动早期,通过Linux内核模块调整GPU底层配置,并在英伟达驱动绑定显卡前执行PCIe功能级复位(FLR),使相关设置在后续驱动初始化过程中保留。
公开测试表明,相关方案能够在特定环境下与原版英伟达驱动及CUDA环境配合运行,但兼容性仍取决于显卡型号、驱动版本和系统配置。如果驱动已经接管显卡,再加载相关模块可能无法生效。
在功耗表现方面,部分测试在450W功耗上限下完成。需要注意的是,功耗上限不等于实际运行功耗,因此不能据此断言解锁前后整板功耗完全不变。
对本地AI的实际影响
对于本地大语言模型、图像生成模型等AI工作负载,这类解锁可能改善部分以矩阵运算为主的计算任务。社区公布的RTX 3090 Ti测试中,部分ComfyUI工作负载的BF16处理吞吐量提升约60%,但结果仅适用于相应模型和测试环境。
![]()
大语言模型预填充阶段可能从更高的矩阵运算吞吐量中受益;解码阶段则可能受到显存带宽等因素限制,实际生成速度未必同步提升。同样,目前没有充分依据证明所有AI训练、推理任务或游戏应用都能获得显著加速。
需要特别提醒的是,这些工具均属于非官方方案,尚未得到英伟达的正式支持。底层配置修改可能带来兼容性、稳定性和安全风险,用户应充分评估相关影响,并避免直接部署于重要业务环境。
总结展望
总体来看,这两项解锁方案揭示了消费级GeForce显卡在特定张量运算中的性能潜力,但指令吞吐量提升并不等于应用性能同比增长。其实际收益仍取决于显卡型号、计算精度与具体负载,稳定性和兼容性也有待进一步验证。
小编将在第一时间分享更多相关最新动态和爆料,敬请关注。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.