LPDDR6：面向数据中心的可扩展高能效内存

导言
 

低功耗 DRAM (LPDRAM) 的应用范围已远远超过当初推出时面向的移动设备，已成为现代数据中心架构中的核心构建模块。随着超大规模运营商不断扩展通用计算 (GPC) 和人工智能 (AI) 工作负载，内存系统必须在越来越有限的机架级功耗和散热范围内，同时提供更高的容量、持续的带宽、可预测的延迟、强大的可靠性，以及严格保证的能效。

Meta 的数据中心平台是这一转变趋势的典型代表。无论是传统服务（数据库、缓存、虚拟化、微服务），还是现代 AI 工作负载（推理、推荐系统、排名以及新兴的生成式模型），内存容量和能效已成为系统是否具备可扩展性的首要决定因素。在许多部署中，内存（而非计算）已成为决定每瓦性能、每机架密度以及单次请求成本的主要因素。

与 LPDDR5X 相比，LPDDR6 所做的改进不仅仅是提高速度。LPDDR6 引入了与服务器相关的架构功能，并支持部署级访问协调模式（例如 x6 数据宽度），这些新特性可提高向量化 AI 推理工作负载的交付带宽效率、电源效率和可靠性，从而直接满足超大规模应用需求。这些功能增强使得 LPDDR6 能够高效扩展容量和带宽，并满足大规模数据中心部署在运营、可靠性和可持续性方面的要求。

在本文中，我们将重点讨论：

• 哪些因素推动了数据中心对 LPDDR6 的需求？
• 类似 Meta 这样的超大规模运营商最关心的 LPDDR6 特性
• 这些特性如何转化为实际的应用级收益？
• Meta 采用 LPDDR6 对更广泛的数据中心生态系统意味着什么？

为何 LPDDR6 在架构上非常适合数据中心？
 

对于超大规模计算厂商而言，内存选择取决于机群级效率和整体优化，而非孤立的峰值基准测试性能。无论是 GPC 工作负载还是 AI 工作负载，推动厂商采用 LPDDR6 的因素都是相同的：

• 规模化之下的可预测性能：
  超大规模平台优先考虑稳定的尾部延迟和吞吐量，而非峰值带宽。
  LPDDR6 采用的架构变革改善了并发性，减少了刷新干扰，提高了实际工作负载下的交付带宽。
• 服务器级可靠性和可观测性：
  静默数据损坏、命令/地址错误以及行锤 (Row Hammer) 效应，在超大规模部署环境中是不可接受的。
  LPDDR6 引入了增强的可靠性、可用性和可维护性 (RAS) 特性，使得低功耗 (LP) 内存满足数据中心的运营要求。
• 能效比：
  内存功耗现已成为机架级能耗的重要组成部分。
  LPDDR6 的低电压、新的动态电压和频率调整 (DVFS) 功能，以及效率模式的改进，使得内存能耗可随工作负载需求而扩展——这种特性对于全天候服务和突发性推理流量至关重要。
• 容量驱动的可扩展性：
  通用计算工作负载日益依赖于大型内存工作集（缓存、数据库、虚拟化环境），而 AI 推理工作负载则需要持久化键值 (KV) 缓存、嵌入和模型状态。
  LPDDR6 能够实现更高的单节点内存密度，且功耗或 Rank 复杂度不会线性增加。

LPDDR6：面向数据中心的可扩展高能效内存

以下列出了 LPDDR6 在架构和设计上的进步，它们是数据中心应用的重要考量因素，对于机群级效率、可扩展性和可靠性有着显著影响。

高性能与容量扩展

更高的每引脚数据速率（10.7 → 14.4 Gb/s [发展路线图]）：
 

• 有何改进：LPDDR6 将每引脚信号速率提高到 10.7 Gb/s，未来将提高到 14.4 Gb/s。带宽增长是通过更高的信号效率而非扩展接口宽度来实现的。
• 为何这对数据中心非常重要：提高了每瓦带宽，降低了 PHY 扩展压力；内存容量和总带宽在插槽和机架级别扩展，不会增加 PHY 功耗或引脚数——这一特性正变得越来越重要。
• 对应用的影响：为排序、搜索和模型服务等带宽敏感型工作负载提供更好的每瓦吞吐量。

针对服务器优化的 x6 模式：
 

• 有何改进：LPDDR6 将其非二进制接口宽度从 x16 扩展至 x24，增加了专为数据中心需求而设计的 x6 子通道模式。这种更窄的 x6 接口可满足两个互补的数据中心目标。首先，有利于容量扩展。x6 缩小了每个颗粒的接口宽度，使得每个封装能够容纳更多的内存颗粒，从而让每个组件和每个通道能够对应更大的内存容量。其次，作为一种面向服务器的架构，x6 支持跨多个独立子通道的协调访问，能在内存控制器处形成更宽的逻辑事务接口，支持控制器使用比完全独立的子通道访问更少的 DRAM 命令序列来处理更大的逻辑事务。
• 为何这对数据中心非常重要：AI 推理工作负载越来越需要更大的常驻内存容量，以及更高效的向量化内存流量传输。长上下文 KV 缓存、嵌入表和模型常驻推理状态持续扩大对内存空间的需求，而常见的推理传输对应的数据量经常在 64 字节至 256 字节范围内。x6 架构通过更高的封装密度和单通道容量，从以上两个方面增强了 LPDDR6；同时，通过减少多次细粒度事务带来的命令开销，还提高了每瓦有效带宽。在平台层面，LPDDR6 SOCAMM2 通过提供可维护且容量可扩展的模块，进一步加强了采用的便利性；其存储密度正向 512GB 及以上发展，直接满足了 AI 训练和推理工作负载对内存容量日益增长的需求。
• 对应用的影响：通过减少每个有效传输字节的命令开销，提高了针对长上下文 KV 缓存和常驻嵌入状态等大型内存内推理数据集的持续带宽传输能力。在大容量 LPDDR6 部署中，这一特性可降低每个推理请求的内存能耗并改善尾部延迟，使得 LPDDR6 对于功耗受限的超大规模部署更具吸引力。

BL24 支持灵活的 32B / 64B 访问：
 

• 有何改进：LPDDR6 采用比 BL16 (LPDDR5) 更长的突发长度 (BL)（即 BL24），并定义了支持每个子通道 32 字节事务的数据包格式，且可选择聚合为 64 字节访问。这一特性提高了灵活性，支持使用额外位进行元数据传输和数据保护，以及在控制器层面将两次 32 字节访问聚合为单次 64 字节逻辑访问。
• 为何这对数据中心非常重要：提高缓存行对齐服务器工作负载（常见于服务器 CPU 和加速器中）的效率，并减少命令开销。
• 对应用的影响：减少命令开销，提高 GPC 和 AI 工作负载的效率。

能效与能效比

支持增强型 DVFS 的双轨核心电源 (VDD2C / VDD2D)：
 

• 有何改进：核心电源电压降低、电源轨拆分 (VDD2C/VDD2D)，以及全新的动态电压频率调整 (DVFS)。与 LPDDR5X 相比，LPDDR6 采用更低的核心工作电压，并引入了 VDD2C 和 VDD2D 双域核心电源。新引入的 DVFS 特性可在 VDD2C 和 VDD2D 上提供动态电压变化，即提供 +25mV 的偏移量以实现高数据速率性能，提供 -25mV 的偏移量以实现低数据速率节能操作。与 LPDDR5X 内存相比，在电压转换期间允许进行数据传输。
• 为何这对数据中心非常重要：内存功耗可随利用率伸缩，并非固定不变。对于在严格机架级功耗限制下运行的数据中心部署，这一特性尤其有用，能效比的提高可直接转化为更高的可用计算密度，并降低整个机群中每笔事务的能耗。
• 对应用的影响：降低动态变化的负载服务和推理流量的单次请求能耗。

动态效率模式（单子通道操作）：
 

• 有何改进：LPDDR6 支持动态效率模式，允许在低带宽需求期间门控一个子通道，在减少 I/O 活动的情况下进行内存访问。通过限制活动子通道并降低开关活动，核心功耗和 PHY 功耗都会随之降低。
• 为何这对数据中心非常重要：这种模式对于具有突发性或昼夜利用率不均衡的数据中心服务特别重要，这些服务的平均内存利用率显著低于峰值。
• 对应用的影响：降低缓存密集型 GPC 服务和轻负载推理节点的闲时功耗。

刷新优化（双 Bank 刷新）：
 

• 有何改进：LPDDR6 引入了双 Bank 刷新命令，可减少刷新操作与活动内存流量之间的干扰，从而减少硬刷新停顿。
• 为何这对数据中心非常重要：随着内存容量的扩展，刷新开销已成为导致延迟不稳定和带宽损失的一个重要因素。减少刷新引起的停顿，可提高持续负载下内存访问延迟的可预测性，这一点对于尾部延迟敏感应用非常重要。
• 对应用的影响：在持续工作负载下具有更可预测的延迟和吞吐量。

可靠性、可用性和可维护性 (RAS)
 

在超大规模数据中心部署中，内存子系统必须在支持长时间运行、大型驻留数据工作集和持续推理流量的前提下保持数据完整性。AI 推理工作负载通常会将模型参数和 KV 缓存状态长时间保留在内存中，这增加了静默数据损坏、行干扰效应以及命令/地址完整性故障等风险。LPDDR6 引入了多种架构机制来增强可靠性和可观测性，使得低功耗 (LP) 内存在运行时的表现能够满足数据中心运营的要求。

支持双位错误 (DBE) 检测以及错误检查与清洗 (ECS) 功能的片上纠错码 (ECC)：
 

• 有何改进：LPDDR6 内置增强型片上 ECC 功能，支持多位错误检测和周期性错误清洗机制。在某些设备本地故障在内存子系统中进一步传播之前，这些功能可对其进行纠正或检测，从而提高内部 DRAM 单元的可靠性。
• 为何这对数据中心非常重要：长寿命 AI 推理状态（例如模型权重和 KV 缓存）对瞬态和累积内存错误都很敏感。片上 ECC 提高了设备级韧性，但它本身无法提供完整的系统级可纠错性。在数据中心平台中，更重要的优势在于改进的 DRAM 端错误处理降低了传导给平台的原始故障率，而随后的平台级遥测和 ECC 策略可决定是否继续服务、停用页面、迁移工作负载或安排维护。
• 对应用的影响：周期性纠正和改进的错误报告率降低了长期推理部署中静默数据损坏的风险。这可实现平台级遥测和机群级纠正措施（例如停用页面、工作负载迁移或主动节点服务），为长期推理部署提供预防性维护支持。

逐行激活计数 (PRAC)：
 

• 有何改进：LPDDR6 集成了硬件辅助的行激活频率跟踪功能，可减少与行锤 (Row Hammer) 效应相关的干扰所引起的故障。
• 为何这对数据中心非常重要：随着数据中心节点扩展到更高的内存密度，以支持具有更大上下文长度的推理工作负载，对热内存区域的重复访问可能会增加相邻行干扰引发的错误。
• 对应用的影响：PRAC 降低了在频繁访问的推理状态下由行干扰引起的数据损坏的概率，最大限度减少了对过度保守的系统级缓解措施的需求，在提高性能的同时，还提高了推理服务的尾部延迟可预测性。

命令/地址 (CA) 奇偶校验：
 

• 有何改进：LPDDR6 支持命令和地址信号路径上的奇偶校验保护。
• 为何这对数据中心非常重要：命令/地址完整性故障可能导致错误的内存操作，从而引发系统范围的静默数据损坏，且可能无法通过数据路径 ECC 机制立即检测到
• 对应用的影响：提高了大规模机群的可观测性，能实现更快的故障隔离。

数据包级元数据和链路保护：
 

• 有何改进：用于保护和遥测的附加位。
• 为何这对数据中心非常重要：支持与平台级监控和验证的更紧密集成。
• 对应用的影响：更快的根本原因分析，提升机群可靠性。

有界故障隔离：
 

• 有何改进： LPDDR6 的 RAS 功能与平台级 ECC 架构相结合，可实现有界故障隔离，将特定的 DRAM 故障模式限制在数据读取涉及的有限区域内，不会大范围传播，或导致难以检测的数据损坏。一个至关重要的实际目标是：将外部可见的故障区域限制在高级 SoC ECC 算法的纠错能力粒度范围内——例如，8 位有界区域，并可在读取更宽数据位时扩展至 16 位或 32 位有界区域。这提高了在系统层面纠正故障的可能性，可避免升级为更严重的不可纠正故障。
• 为何这对数据中心非常重要：如果没有故障限制，局部的 DRAM 故障可能会在宽位数据读取时超出系统级 ECC 的纠错能力范围，从而导致检测到不可纠正错误 (DUE)，或导致静默数据损坏 (SDC)，在未检测到的情况下传播到应用程序的状态中。数据中心部署会优先考虑保持内存故障的可检测性和可纠正性，以便能够在不造成跨节点或机架的级联中断情况下启动自动修复流程（例如日志记录、受影响页面隔离、工作负载引流和定期维护）。当内存中保留着长寿命推理状态（如 KV 缓存或模型参数）时，这一点尤为重要。
• 对应用的影响：通过降低关键工作负载运行期间静默数据损坏和不可纠正错误的概率，改进的故障隔离功能增强了服务连续性。对于需要长时间运行的 AI 训练工作负载和内存密集型 AI 工作负载而言，这一点尤为重要，因为单个内存故障可能会触发检查点回滚、重复计算或模型状态损坏，从而导致大量的时间、能源和机群效率损失。

支持预留空间的高性能并行元数据：
 

• 有何改进： LPDDR6 数据包格式支持细粒度事务，并可灵活分配额外的位用于元数据和数据保护。元数据预留方法允许预留一部分内存容量或带宽预算，用于实现基于 SOC 的高级 ECC 算法纠错，而不会导致进入过度性能开销状态。
• 为何这对数据中心非常重要：大规模部署需要内存子系统支持端到端可观测性、更强的故障恢复能力，以及在长时间运行 AI 和通用计算工作负载期间保持可预测的性能。LPDDR6 的并行元数据预留功能提供了一种实用方法，支持始终开启 SoC 级高级 ECC、保护信令和遥测传输，且不会减少实际交付的有效载荷带宽。这使得超大规模平台能够在保持确定性吞吐量的同时，超越单纯 DRAM 内部 ECC 所提供的纠错能力，从而实现更好的故障隔离、更快的根本原因分析，以及更可靠的系统运行。
• 对应用的影响：支持启用始终开启的高性能并行元数据传输，以更低的开销支持更强的监控以及保护信号，在保持可预测的推理性能的同时，提高了纠错能力和可靠性。

结论：LPDDR6：一种适用于数据中心的内存架构

随着市场对通用计算、大规模 AI 推理和分布式服务的需求持续增加，数据中心规模不断扩大，内存架构已成为决定系统效率、可扩展性和可靠性的关键因素。LPDDR6 提供了一种平衡的解决方案，既适用于通用计算，也适用于 AI 工作负载。

LPDDR6 延续了 LP 内存的能效和密度优势，同时引入了超大规模部署所需的服务器级架构和 RAS 功能。双独立子通道、灵活的访问粒度、高密度扩展模式、结构化电源轨，以及增强的可靠性，共同提升了交付性能，加强了数据完整性，并提高了能效比。

尤其值得一提的是 LPDDR6 的 x6 访问模式，代表了从面向移动设备优化的细粒度内存事务，向面向 AI 优化的向量宽度访问的转变。这使得 Meta 等超大规模企业不仅将 LPDDR6 作为 DDR 的低功耗替代方案进行部署，更将其作为一种针对推理优化的大容量内存层，从而在整个机群规模上提高每瓦有效带宽。

Meta 选择 LPDDR6，为数据中心行业指出了明确的方向：在专为服务器进行架构设计后，低功耗内存正成为可扩展且可持续的数据中心基础设施的基石。更广泛而言，LPDDR6 的采用反映了行业日益增长的共识，即低功耗内存如果在设计时充分考虑服务器需求，就能在可扩展且可持续的数据中心基础设施中发挥基础性作用。随着 LPDDR6 的推出，LPDRAM 已成为现代内存层级中与 DDR 和 HBM 内存并列互补且日益重要的组成部分，而非一种非主流替代方案。

参考资料
 

1. 美光科技，“低功耗 (LP) 内存在数据中心工作负载运行中的作用”(The Role of Low-Power (LP) Memory in Data Center Workloads)，2025 年。https://assets.micron.com/adobe/assets/urn:aaid:aem:5a10a15d-ae6c-40f9-8fc2-e522e7c6749f/renditions/original/as/lp-in-data-center-technical-brief.pdf
2. 美光科技，“大规模应用中的 LPDDR：通过大容量内存实现高效 LLM 推理”(LPDDR at Scale: Enabling Efficient LLM Inference Through High-Capacity Memory)，2025年。 https://www.micron.com/content/dam/micron/global/public/products/memory/mobile-dram/lpddr5/documents/lpddr-at-scale-llm-inference-white-paper.pdf
3. NeevCloud，“运行大语言模型需要多少 GPU 内存”(How Much GPU Memory Is Needed to Run a Large Language Model)，2025 年 8 月 28 日。 https://blog.neevcloud.com/how-much-gpu-memory-is-needed-to-run-a-large-language-model-learn-more-here
4. Zhang 等，“通过 KV 缓存聚类实现高效的长上下文 LLM 推理”(Efficient Long-Context LLM Inference via KV Cache Clustering)，arXiv 预印本，arXiv:2506.11418，2025 年 6 月 13 日。 https://arxiv.org/abs/2506.11418
5. Mutlu 等，“内存处理技术现代入门”(A Modern Primer on Processing in Memory)，《IEEE Computer Magazine》，2022 年。 https://ieeexplore.ieee.org/document/9599719
6. JEDEC 固态技术协会，“LPDDR6 标准 (JESD209-6)”，2025 年 7 月。
7. Schroeder, B.、Pinheiro, E.、Weber, W.，“实际环境中的 DRAM 错误：大规模实地研究”(DRAM Errors in the Wild: A Large-Scale Field Study)，第 11 届计算机系统测量与建模国际联合会议 (SIGMETRICS) 论文集，2009 年。 https://research.google/pubs/pub35162/
8. Kim, Y.、Daly, R.、Kim, J. 等，“在不访问内存的情况下翻转内存位：DRAM 干扰错误的实验研究”(Flipping Bits in Memory Without Accessing Them: An Experimental Study of DRAM Disturbance Errors)，第 41 届计算机体系结构年度国际研讨会 (ISCA) 论文集，2014 年。 https://users.ece.cmu.edu/~yoonguk/papers/kim-isca14.pdf
9. Pope, R.、Kolouri, S.、Rostamizadeh, A. 等，“高效扩展 Transformer 推理”(Efficiently Scaling Transformer Inference)，机器学习与系统会议 (MLSys) 论文集，2022 年。
   https://proceedings.mlsys.org/paper_files/paper/2023/file/c4be71ab8d24cdfb45e3d06dbfca2780-Paper-mlsys2023.pdf 
10. 开放计算项目基金会，“数据中心平台的模块化内存系统架构”(Modular Memory System Architecture for Data Center Platforms)，2023 年。 https://www.opencompute.org/projects/server/open-chiplet-economy/