据报道，英伟达的下一代 Ada GPU 架构将大幅提升二级缓存大小，@harukaze5719和@xinoassassin1在 Twitter 上分享了这一点。新的泄漏称，与 Nvidia 当前的 GeForce RTX 30 系列 GPU 相比，新架构的 L2 尺寸增加了 16 倍，并且与采用 Infinity Cache 技术的 AMD Radeon RX 6000系列 GPU 相当。

据报道，旗舰 Ada 芯片 AD102 获得了整个阵容中最大的缓存大小，达到了令人印象深刻的 96MB(每个 64 位内存控制器 16MB)，而 AD103 和 AD104 芯片可以接收 64MB 的缓存。AD106 将具有 48MB，而 AD107 将具有最少的缓存量，为 32MB。尽管如此，即使是 AD107 的缓存大小也比 Nvidia 目前在 GA102 芯片上运行的最强大的 GPU 相形见绌，GA102 芯片只有 6MB(每个 32 位内存控制器 512KB)。

不难理解为什么 Nvidia 会通过其 Ada 架构做出这种非正统的举动。之前的报告表明，Ada 的内核可能比 Ampere多 71% 。当然，有了更多的内核，就需要增加内存带宽，以确保不断地为每个内核提供数据，并且在不使用更宽的内存接口的情况下，使用更大的缓存来提高带宽利用率是一个不错的选择。

AMD 是第一家在 GPU 上展示大型内部缓存全部潜力的公司，推出了基于 RNDA2 的 Radeon RX 6000 系列 GPU。在 RDNA2 中，AMD 推出了 Infinity Cache，它在 GPU 中添加了一个巨大的 L3 缓存以及其他 L0、L1 和 L2 缓存。

与前几代 Nvidia 和 AMD GPU 相比，这些缓存要大得多，顶级 RDNA2 芯片拥有 128MB 的无限缓存。在使用RX 6800 XT和RX 6900 XT 等 GPU 进行测试时，发现这些巨大的缓存大小可以完全缓解 GPU 相对较弱的 256 位内存总线的瓶颈，这与 Nvidia 的 320 位 RTX 3080 相比相形见绌。总线和用于 RTX 3090 的 384 位总线。Nvidia 的 RTX 3080 和 3090 也运行更快的 GDDR6X 内存，而 AMD 坚持使用常规 GDDR6 IC。

因此，尽管 RX 6800 XT 和 RX 6900 XT 的内存配置看似性能严重不足，但由于拥有大量 Infinity Cache，这些 GPU 能够与 Nvidia 的同类产品并驾齐驱。

Ada 将是 Nvidia 第一次真正从 AMD 的剧本中吸取教训，并且可能会通过更大的缓存来应对其更高的核心数量要求，而不是纯粹通过更快的 IC 和更大的总线宽度来增加原始带宽。据泄露的消息称，Nvidia 不仅据称使用了大型 L2 缓存，而且显然还保持其总线宽度与当前一代 Ampere GPU 相同。这意味着英伟达将更多地依赖内部缓存来保持高内存带宽，就像 AMD 一样。

我们最近看到了 21Gbps GDDR6X 模块的推出以及GDDR6+ 和 GDDR7的新三星路线图。Nvidia 可能会利用那些时钟频率更高的 IC 来获得更多的内存带宽。另一方面，AMD 选择在其整个 RDNA2 系列中坚持使用标准 GDDR6 模块——甚至 6900 XT LC 也使用 18.5 GDDR6。

最近的报告表明，RDNA3 芯片可能拥有多达 256MB 到 512MB 的无限缓存，这将是 Ada 当前 L2 缓存大小预测的 2.7 倍和 5.4 倍。然而，与大多数缓存架构一样，存在收益递减点，即使是 512MB 三级缓存也可能无法从根本上提高 128MB 缓存的性能。无论如何，今年晚些时候 GPU 领域的事情将变得非常有趣。