ChatGPT 推动数据中心混合存储解决方案的普及

Rambus在DDR5方面的努力并没有停止。

在2022年8月推出串行检测集线器（SPD Hub）和温度传感器以补充寄存器时钟驱动器（RCD）之后，该公司最近宣布推出一款新的6400MT/s DDR5 RCD，并向主要DDR5内存模块（RDIMM）制造商提供样品。

33%更快的数据传输速率和带宽 随着CPU核心数量和计算性能的不断增加，内存带宽和容量也必须成比例地扩展，这是引入DDR5的根本推动力。 DDR5最引人注目的部分是它比已经“超级快速”的DDR4更快。与DDR4内存的最大传输速度3.2Gbps相比，新的DDR5内存的最大传输速率可以达到8.4Gbps。此外，DDR5还改善了双列直插式内存模块（DIMM）的工作电压，将供电电压从DDR4的1.2V降低到1.1V，进一步提高了内存的能效。

Rambus内存互连芯片业务部副总裁John Eble告诉小编，快速发展的服务器市场需要DDR5内存具有更大的容量和更高的带宽，这是显而易见的。同时，还需要保证在64字节缓存行中具有相同的内存读取粒度，具有相同或更好的可靠性、可用性和可维护性特性（单错误纠正/双错误检测/芯片失效），以及正确的冷却功率范围和启动时间。

了解DDR4/DDR5的朋友应该更清楚，RCD是关键的控制面板芯片，它将命令、地址信号和时钟分配给DIMM上的DRAM设备。如果扩展RCD带宽，不仅会面临从CPU到RCD的两个接口和从RCD到DRAM的信号完整性挑战，还必须考虑功耗和成本。

DDR5 DIMM采用独立的40位宽双通道设计（32位数据位，8位纠错码位），每个通道的突发长度从8字节（BL8）增加到16字节（BL16）。相比之下，DDR4 DIMM通常是单通道的，使用8位子通道传输数据，两侧配备ECC，具有总共72位宽的数据通道（64位数据，8位纠错码位）。因此，尽管数据位仍然是64位，但DDR5并发能力的提高提高了内存访问效率，两个通道共享注册时钟驱动器，每个侧面可以提供四个输出时钟，可以优化信号完整性。

因此，在从DDR4过渡到DDR5的过程中，为了更好地配合DDR5中的新功能，RCD还调整了接口，即从DDR4中的33位SDR转变为DDR5双通道解决方案中的10位DDR。这一举措将极大地有利于DDR5内存接口芯片，以确保主机内存控制器发送到RDIMM的命令/地址和时钟信号具有优秀的信号完整性，还可以进一步减轻DRAM的相关工作量。完整的电源传递、系统管理和遥测支持。

数据显示，与第一代4800MT/s解决方案相比，Rambus第三代6400MT/s DDR5 RCD的数据传输速率和带宽增加了33%，将数据中心服务器的主存储性能提升到了一个新的水平。

混合多存储解决方案 IDC预测，服务器DDR5的拐点有望在2024年上半年出现。“本次发布的Gen3产品，包括Gen1 4800MT/s RCD和Gen2 5600MT/s RCD产品，共同构成了Rambus更完整的芯片系列组合。”约翰·埃布尔预测，使用第三代DDR5 RCD的系统将在2024年发布，装运将开始，并且将在2025年开始大规模生产。

他还指出，行业中还有另一个关于数据中心存储解决方案的观点，即“不同的存储解决方案将同时出现，并进一步形成与DDR5主存储解决方案相结合的混合多存储解决方案”。因此，在未来，数据中心在发展过程中，对容量的需求可能会减少，但对带宽的需求将迅速上升，并且HBM/CXL等技术将更广泛地应用于未来。

“尤其是面对像ChatGPT这样的人工智能应用，需要采用多管齐下的解决方案。”Rambus大中华区总经理苏磊表示，ChatGPT需要大量数据进行深度机器学习，以完成训练模型和推理，因此它严重依赖于由矩阵和卷积计算所代表的高计算能力，需要训练/推理AI芯片，或具有强大的存储器带宽配置的加速模块。对于存储制造商来说，这不仅需要持续扩展具有低延迟和高可靠性的DDR5内存接口芯片的容量和带宽，还需要CXL的合作。

当谈论2023年内存市场的发展趋势时，John Eble回应说，首先，内存本身是一个不断波动和增长的市场。两者都已成功地恢复和增长。因此，总体而言，内存市场将在2023年下半年显示出复苏趋势。

其次，服务器市场也处于类似的情况。短期内会出现一些弱点和波动。然而，考虑到云计算、高性能计算和AI机器学习对更大的内存、容量和带宽的巨大需求，从长远来看，服务器市场仍将是一个非常强大和稳定的市场，并且产业链中相关环节将从中受益。