美光科技术语表

ECC 内存

带有蓝色和绿色电路图案的无品牌半导体晶圆

随着计算基础设施的规模越来越大,以支持人工 智能、高性能工作负载和关键任务 企业系统,内存中每个活动字节的可靠性 变得至关重要。对于运行全天候计算 环境的组织而言,更高的内存可靠性有助于保持系统性能、 维护数据完整性,并降低代价高昂的停机风险。

什么是 ECC 内存?

纠错码 (ECC) 内存是一种计算机内存, 能使用算法来检测并自动纠正单比特错误, 同时能对多比特错误进行标记,以免这些错误威胁到系统的稳定性。 与标准的非 ECC 内存模块不同,ECC 模块包含额外的 内存芯片和电路,专门用于检测和 纠正错误。

ECC 内存通过持续监控内存 硬件层面的操作来维护数据完整性。当单个比特由于 电气干扰或背景辐射而翻转时,ECC 算法 能够识别错误位并将其恢复为正确值, 不会中断系统运行或者向应用 层发出告警。

ECC 内存最初于上世纪 90 年代在企业服务器 平台中得到广泛采用,当时 DRAM 密度的增加使得内存 单元更容易受到宇宙射线次级粒子和粒子诱导的 位翻转的影响。如今,ECC 保护是数据 中心服务器、科学计算和 AI 基础设施中的基本要求。

ECC 内存是如何工作的?

ECC 内存为每个内存字存储冗余的奇偶校验位, 从而支持内存控制器在每次读取操作中 检测并纠正错误。这些额外的位存储着一个校验和,通常 使用汉明码算法,每次 访问数据时都会重新计算。

  • 奇偶校验位存储:额外的错误检查位 在每次内存写入操作期间与每个数据字 一起写入。
  • 校验和重新计算:内存控制器 在每次读取时重新计算校验和,并与存储的值 对比。
  • 单比特纠错:当检测到单比特错误时, 算法会识别出精确的出错比特位置,并将它 自动翻转回正确状态。
  • 多比特标记:双比特和多比特 错误会被检测到,并报告给操作系统或固件,以进行 系统级响应。
  • 透明操作:所有纠错操作 发生在硬件中,导致的延迟很小, 运行中的应用程序无法感知。

导致内存错误的原因 是什么?如何避免?

当存储在内存中的一个或多个位 发生意外变化时,便会导致内存错误。这种变化可能是暂时的,称为软 错误,也可能与内存硬件中的物理问题有关,称为 硬错误。这两种错误类型都会影响数据准确性和系统 稳定性,但它们发生的原因不同。

1. 硬件缺陷与磨损

内存错误可能源于硬件自身中的 物理问题。制造缺陷、损坏的内存单元、连接故障、 过热和长期的组件磨损,都可能导致内存位被写入值 或者发生读取错误。这些错误被称为硬错误,由于 底层硬件受到影响,它们往往会在相同的内存 位置重复出现,除非修复或更换整个模块。

2. 电气干扰和辐射

内存错误也可能由只干扰 存储的数据而不损坏硬件的外部事件引起。电噪声、电压 波动以及来自背景辐射的高能粒子都可能 改变存储单元中的电荷,导致位翻转。这些错误被称为 软错误,一旦出错的位 被纠正或重写,内存通常就会恢复正常工作。

奇偶校验内存是如何 进行错误检查的?

内存芯片上的数据以 0 和 1 两种值来存储。奇偶校验内存是一种 错误检测方法,旨在提高数据的完整性,它会使用一个额外的位,称为 奇偶校验位。

在奇偶校验内存中,为额外位(即奇偶校验位)分配的空间位于 数据位序列的末尾。这个奇偶校验位的设置方式是: 设置后使得二进制序列(包括奇偶校验位本身在内)中“1”的总数 满足特定条件。如果 目标是偶校验,则会设置校验位使得 “1”的总数为偶数。如果目标是奇校验,则设置校验位 以确保“1”的总数为奇数。

例如,数字“100”的二进制表示为 “1100100”。若要应用奇校验,会检查 序列中“1”的总数。如果计数已经是奇数,添加的校验位将是“0”, 以维持奇数计数。如果计数是偶数,则校验位将是 “1”,以使“1”的总数为奇数。在上面的例子中,由于“1100100”有 三个“1”(奇数),为实现奇校验,会添加一个“0”,从而构成 序列“11001000”(其中最后一个零是校验位),以 确保“1”的总数为奇数。这意味着如果系统 读取到“1”的数量为偶数的序列,就说明有错误发生,同时系统 已经识别出了内存错误。

不过,奇偶校验内存有两个主要局限性。它只能检测奇数个数的 错误(1、3、5 等),无法检测出偶数个数的错误 (2、4、6 等)。奇偶校验也无法纠正错误,只能检测 错误。ECC 内存避免了这些局限性。

ECC 内存与奇偶校验内存

奇偶校验内存可以检测到错误,但无法纠正受影响的 数据。ECC 内存提供更强的保护能力,可检测和 纠正常见的单比特错误,同时还会标记更复杂的 错误,供系统做出响应。

对于企业级内存而言,这种区别非常重要,因为工作负载通常 需要持续运行,并依赖于准确的结果。ECC 内存提供 服务器、数据中心、AI 基础设施以及 其他关键任务环境所需的可靠性,在这些环境中,未检测到的内存错误可能会 影响性能、可用性或数据完整性。

ECC 内存的优势

ECC 内存可识别和纠正 常见的内存错误,防止它们中断关键工作负载,从而有助于保护数据完整性。对于 企业、数据中心和关键任务系统,这种额外的 保护可降低数据损坏、系统不稳定 以及意外停机的风险。

ECC 内存支持基础设施所需的可靠性,这些基础设施 必须持续运行,并产生准确的结果。对于 AI、高性能计算、云 服务等工作负载,以及数据准确性会直接影响业务连续性的系统, 可靠性尤为重要。

有哪些 不同类型的内存错误?

软错误是指由 外部事件而非永久性硬件损坏导致的内存数据的临时变化。软错误可能 源于电噪声、电压波动或来自背景辐射的高能 粒子干扰了存储单元中的电荷。 在错误位被纠正 或重写后,硬件本身可能仍然能够正常工作。

  • 硬错误:由内存硬件中的物理问题引起的持久性错误, 可能的原因包括有缺陷的芯片、损坏的 单元、连接故障或组件磨损。
  • 软错误:由外部干扰导致的临时错误, 可能的原因包括电噪声、电压变化或背景 辐射,只改变了内存位的值,不会导致 内存芯片物理损坏。

ECC 内存的发展历程 是怎样的?

ECC 内存已经发展了七十多年,从理论 数学变成了现代计算基础设施中的 基本要求。

  • 1940 年代:美国数学家理查德·汉明 在贝尔实验室开发了第一个纠错码,引入了 至今仍是 ECC 算法基础的汉明码。
  • 1950 年代 – 1970 年代:早期的大型主机采用 纠错技术来解决大规模计算环境中的 硬件不可靠问题。
  • 1980 年代 - 1990 年代:随着 DRAM 密度增加, 背景辐射和电气干扰导致更高的错误 率,使得 ECC 内存成为服务器平台中的 标准要求。
  • 2000 年代:随着全球数据中心部署加速,ECC 内存在 企业服务器、科学计算和电信 基础设施等领域得到广泛应用。
  • 2010 年代:大规模研究表明, 高密度 DRAM 中的错误率足以影响云 和企业工作负载,使得人们对 ECC 的认识远远超出了 传统服务器市场。
  • 2020 年代:片上 ECC 在 DDR5 和 LPDDR5X 内存标准中成为强制要求,纠错电路被直接嵌入 DRAM 芯片内部,以解决与 先进半导体工艺节点相关的高错误率问题。

ECC 内存的主要类型 有哪些?

ECC 内存是通过几种不同的架构 方式实现的,每种方式都针对特定的性能需求和 系统兼容性限制进行了优化。在选择 ECC 类型时,需要考虑 应用程序对延迟开销的容忍度,以及所需的 保护级别。

1. 带外 ECC

带外 ECC (SBECC) 是传统的服务器级方法, 这种方法将 ECC 数据存储在单独的专用 DRAM 芯片中,这些芯片 会通过额外的内存通道与数据同步传输纠错码。内存控制器 在写入时计算 ECC,在读取时纠正错误, 并将所有纠正和检测结果报告给操作系统或 固件。

2. 内联 ECC

内联 ECC (IECC) 不需要额外的通道宽度, 因此与标准的非 ECC 内存模块兼容。内存 控制器会划分物理地址空间,预留出专用的 ECC 存储区域,从而能在不支持传统 SBECC 的 平台中启用 ECC 保护。

3. 片上 ECC

片上 ECC (ODECC) 将纠错电路直接嵌入到 DRAM 芯片内部,对内存控制器不可见。 在所有 DDR5 和 LPDDR5X 内存解决方案中,ODECC 都是强制性的要求,旨在 解决与先进工艺节点相关的高单元错误率 问题。虽然 ODECC 可以纠正芯片内部错误,但它不会向主机系统报告 纠正信息。

链路 ECC 为内存 控制器与 DRAM 模块之间的数据链路增加了纠错功能,不涉及底层 存储媒介。控制器在向 DRAM 写入时计算并传输 ECC, DRAM 在数据到达时验证和纠正错误。读取时,DRAM 计算 ECC,然后由控制器进行验证。

ECC 内存和非 ECC 内存

ECC 内存专为可靠性而设计,可检测和纠正 常见的内存错误,防止这些错误影响系统性能或数据 完整性。非 ECC 内存不具备这种纠错 能力,因此内存错误可能不会被检测到,直到它们导致 应用程序崩溃、文件损坏或者不准确的输出。因此, ECC 内存通常用于服务器、工作站、数据 中心和其他关键任务系统,而非 ECC 内存则更 多用于消费级 PC,在这些设备中,成本和速度往往优先于 高级错误保护功能。

ECC 内存的应用情况如何?

ECC 内存能够保护活动数据的完整性,适用于 内存错误会导致严重后果的各种环境。 其应用遍及各行各业,在其应用场景中,数据损坏、系统崩溃 或安全漏洞是不可接受的。

  • 数据中心服务器:ECC 内存是企业和 云服务器平台的标准要求,用于保护事务数据库、虚拟化 工作负载和大规模网站应用免受可能导致 崩溃或数据丢失的内存错误的影响。
  • 人工智能和机器学习:AI 训练和 推理工作负载需要处理数十亿个参数,在此过程中,单个 未纠正的位错误便可能破坏模型输出,或者导致 需要长期运行的训练作业变得不稳定。
  • 高性能计算:科学研究、 工程仿真和金融建模依赖 ECC 内存, 用于确保计算结果在长时间的计算过程中始终保持 准确。
  • 医疗保健系统:医学影像平台、 电子健康记录系统和医院信息系统需要 ECC 内存,用于确保患者数据在临床 诊断和治疗中的准确性。
  • 航空航天和国防:嵌入式航空电子设备、雷达 系统以及高辐射环境中的关键任务应用 需要 ECC 内存,用来防止由宇宙射线 次级粒子和太阳粒子事件引起的位错误。
  • 电信:基站、网络 交换机和通信数据中心依靠 ECC 内存来保持 实时语音、视频和数据传输的完整性。
  • 汽车:高级驾驶辅助系统 和车载计算平台使用 ECC 内存来满足功能 安全要求,并用于防止在极端 操作条件下产生安全关键型故障。

美光内存支持 企业级可靠性

美光为要求严苛的企业和数据中心环境设计内存, 在这些环境中,可靠性、性能和数据完整性是 至关重要的基本要求。许多美光内存解决方案支持 ECC 或包含 与 ECC 相关的功能,具体取决于产品、内存代数以及 系统架构。随着 AI、云计算和高性能 工作负载对内存的需求持续增加,美光致力于为 “始终在线”的基础设施提供所需的可靠内存。

常见问答

ECC 内存常见问答

ECC 内存有助于企业系统保持数据完整性、维持 正常运行时间,并能降低因内存错误而导致系统中断的风险。这种 保护对于服务器、数据中心、AI 基础设施以及其他需要准确结果和 持续运行的环境而言尤为重要。

ECC 内存并不能防止所有可能的内存或系统问题。ECC 内存 旨在检测并纠正许多常见的单比特错误,并能 标记更复杂的错误,以便系统在数据完整性 或稳定性受到影响之前做出响应。

片上 ECC 将纠错电路放在 DRAM 芯片内部,用来 管理内存设备内部的错误。片上 ECC 对 DDR5 非常重要, 因为随着内存密度的提高,以及先进工艺技术的发展, 内部纠错已成为确保现代 DRAM 可靠性的 重要措施。

ECC 内存能在内存错误破坏模型权重或 计算结果之前对其进行纠正, 从而保护 AI 模型训练和推理的准确性。随着机器 学习工作负载规模越来越大,涉及成千上万个内存密集型操作, 即使是单个未纠正的位翻转也可能导致结果无效, 或者引发系统故障并导致训练中断。