这意味着,面向消费者的 RTX GPU,其计算潜力受到 NVIDIA 固件体系的限制
GitHub 用户 Zagitta 开发了一款名为 GPU Unlock 的新开源项目,可将 GA102、GA103、GA104 和 GA106 显卡上 FP/BF16 FMA 运算转为 FP32 运算时的指令发射速度有效提升一倍。而且无需修改 NVIDIA 驱动程序,也不用永久刷写 VBIOS。
RTX 20系列
GeForce RTX 20 系列“Turing”显卡也能通过同一种技术解锁,性能提升至原来的 2 倍。
RTX 30 系列
GeForce RTX 3090 Ti 等显卡的 BF16 矩阵乘法性能最高可提升 80%;这对运行几乎所有神经网络都至关重要。
RTX 40 系列
在 FP32 累加模式下,FP16 和 BF16 张量吞吐量可提升整整 2 倍。使用 FP16 张量吞吐量和矩阵累加对 GeForce RTX 4090 进行测试时,GPU 的性能达到 165.6 TFLOPS;解锁后,这一数字提升至 331.6 TFLOPS。
该方案同样存在明显局限。GPU Unlock 不会提高显存带宽,不会解锁更多 CUDA 核心,也无法让所有负载自动提速。