内存

高带宽内存 (HBM)

美光的高带宽内存是一种采用 3D 堆叠技术的高性能 DRAM,旨在为 AI、高性能计算和数据密集型工作负载提供海量的数据吞吐量。HBM 专为克服内存带宽限制而打造,可实现更快的处理速度和更高的效率,以满足现代系统的需求。

一个人拿着笔记本电脑,站在数据中心的开放式架子前

高带宽内存

美光 HBM4 已进入大规模量产阶段

美光正在大规模量产 HBM4 36GB 12H。HBM4 专为无缝集成下一代 AI 平台而设计,进一步巩固了美光在 HBM 数据中心及 AI 产品组合领域的前沿地位。

美光 HBM4 的性能:

  • 引脚速度超过 11 Gb/s,带宽超过 2.8 TB/s1
  • 带宽高达 HBM3E 的 2.3 倍
  • 功效相较于 HBM3E 提升 20% 以上2

了解美光如何应对未来技术革新挑战。

黑色背景下的美光 HBM4 内存芯片(裸露电路设计)

美光高性能内存

美光提供完整的高性能、高带宽内存 (HBM) 产品组合。请与美光销售支持团队联系,了解美光如何打造这些业界前沿的高带宽产品,来满足数据密集型工作负载的需求。

 

美光高带宽内存产品组合:助力 AI 和高性能计算的未来

美光的高带宽内存 (HBM) 产品组合站在技术创新的前沿,提供针对 AI 和高性能计算需求量身定制的卓越解决方案。 

凭借 HBM3E 等产品,美光实现了出众的性能、速度和内存带宽。该产品组合提供了行业前沿的能效和无缝的可扩展性,以支持 AI 应用的顺畅扩展。

HBM3E:制程技术处于业内前沿,专为 AI 和超级计算应用打造

凭借 HBM3E,美光将业界前沿性能内存产品拓展至其数据中心产品组合。与上一代产品相比,这款产品可在相同封装尺寸内提供更快的数据速率和更高效的热响应,单芯片存储密度提高 50%。

HBM4:继承 HBM3E 的优势

美光 HBM4 内存是确保 AI 性能的核心组件,其设计复杂度前所未有,在继承前代产品优势的同时,实现了性能的显著提升。

 

HBM 在大语言模型中的重要作用

随着大语言模型 (LLM) 推动 AI 持续向前发展,高带宽内存 (HBM) 将成为下一代 LLM 运行的关键因素,能让 LLM 以空前速度进行智能上下文感知推理。

由数据构成的红色和蓝色光线自由流动

特色资源

HBM 常见问题解答

高带宽内存 (HBM) 是一种专用的高性能 SDRAM 架构,采用 3D 堆叠技术。

不同于传统的平面印刷电路板设计,HBM 的设计将多个 DRAM 颗粒垂直堆叠在一个可选的基底颗粒之上。

这些 DRAM 颗粒通过数千个硅通孔 (TSV) 和微凸块互相连接,组成了带宽极高的接口,支持海量数据吞吐量,且占用的物理空间大幅缩小。

标准 DDR5 模块的总线较窄,依赖于极高的时钟速度来提升传输率,而 HBM 则采用高度并行的架构,从设计上实现了更宽的接口。

例如,单个美光 HBM 立方体具有 1024 位宽的数据接口,支持 32 个独立通道,其宽度是标准 DDR5 模块的 16 倍。这种架构设计使得 HBM 能以更低的每比特能耗传输海量数据。

此外,HBM 通过硅中介层直接集成到与 CPU 或 GPU 并列的系统级封装 (SiP) 中,从而缩短了数据传输的物理距离。

是的。HBM 的设计旨在减少每比特数据传输所需的能耗。由于 HBM 靠近处理器并使用更短的连接,因此在降低功耗的同时仍能提供高性能。

利用专有 1β (1-beta) DRAM 节点、低功耗电路设计技术以及先进的信号/电源完整性解决方案,美光 HBM 产品可显著降低功耗。通过降低电流消耗和每比特能耗,数据中心可大幅降低总拥有成本 (TCO),使 AI 基础设施的运营更具可持续性。

HBM 最大的优势在于其能以极快速度传输海量数据。高数据吞吐量可以让处理器保持忙碌状态,无需停下来等待数据,这种能力对于 AI 和先进计算等性能密集型应用至关重要。

1.  基于美光的内部测试,以及保密的客户测试车辆验证。
2.  HBM4 与上一代 HBM3E 产品在相同容量和堆叠层数(36GB、12H)条件下的带宽比较。

设计工具

使用我们的设计工具和资源来测试、构建和维护高性能解决方案,为您的设计流程提供支持。

搜索、筛选和下载数据表

获取有关产品特性、规格、功能等的详细信息。

订购美光样品

为您提供美光内存样品的在线订购与订单追踪平台。

下载及技术文档

这些资源可以帮助您设计、测试、构建和优化创新解决方案。