美光，推动 AI 发展的隐形力量

要打造先进的 AI 技术解决方案，需要能够支持整个数据管道的 AI 产品。

凭借业界前沿的设计与制造能力，美光推出了种类丰富的内存与存储解决方案。这些产品是构建数据中心的核心，为您的 AI 解决方案奠定了坚实的基础。

• 高带宽内存 (HBM)：HBM3E 和 HBM4 等产品专为 AI 加速器设计，可提供训练和运行大规模 AI 模型所需的超高带宽，以及对紧耦合内存的高速访问。HBM 主要用于支持数据密集型工作负载（例如 AI 模型训练和需要高吞吐量的 AI 推理），在这些应用中，优化并提升并行计算的性能至关重要。阅读 HBM4 新闻稿。
• DRAM：美光提供种类丰富的大容量、低功耗 DRAM 模块和 DRAM 器件，可用作 AI 系统运行时所需要的内存，在数据中心、AI PC、移动设备和车载系统等环境中保存活动数据、模型参数，并支持各种运行时操作。在这些系统中，内存的速度、效率和响应能力至关重要。
• 固态硬盘 (SSD)：高性能数据中心 SSD（如美光 9650 NVMe SSD 和 6600 ION NVMe SSD）可用于处理数据密集型 AI 工作负载，加速大规模数据集的采集与处理过程，避免 GPU 闲置，从而节约大量成本。
• 内存扩展：Compute Express Link (CXL) 等技术使 AI 系统能够实现可扩展的内存容量。CXL 技术支持内存池，可实现内存的按需分配，不仅能提升系统级别的带宽和能效，还能减少数据中心内部的资源浪费，从而降低总拥有成本 (TCO)。

内存和存储是 AI 基础设施的关键组成部分，它们为 AI 工作负载提供了运行的空间，其性能决定了系统在 AI 训练和推理工作流中移动、处理和保留数据的速度、效率和成本效益。

内存（例如 DRAM 和 HBM）可以让频繁使用的 AI 模型、参数和数据集持续位于靠近处理器和加速器的位置。随着 AI 模型的规模和复杂性不断增长，大容量、高带宽内存已成为至关重要的基础硬件，有助于消除数据处理瓶颈、提高图形处理单元 (GPU) 和 AI 加速器的利用率、实现更快的模型训练和实时推理。

存储（包括基于 NAND 的 SSD）能够存放 AI 所需的海量数据，包括原始训练数据、检查点记录数据和训练好的模型数据等。高性能、低延迟存储可实现更快的数据采集、对海量数据集的快速访问，以及在数据中心和端侧的高效扩展。

内存与存储相结合，能够：

• 大幅缩短数据移动导致的延迟，从而加速 AI 训练和推理
• 提供更大容量和更高带宽，从而支持更大、更复杂的模型
• 优化数据流，从而提升能源效率，降低总拥有成本
• 跨云端、企业、汽车和端侧进行大规模 AI 部署

随着 AI 继续演进，计算、内存和存储领域的同步创新均至关重要。内存和存储技术的发展可确保 AI 基础设施能够提升性能、效率和可靠性，以满足下一代 AI 工作负载的需求。

内存和存储是现代 AI 基础设施的关键组成部分，美光持续提升内存和存储的性能，以此加速 AI 发展。从与加速器紧密集成的高带宽内存 (HBM) 和 AI 内存，到支持数据采集、检查点记录和 AI 推理的 AI 存储设备和 AI SSD，美光的产品助力数据在 AI 管道中高效稳定地流动。

通过聚焦每瓦性能、带宽和可扩展性，美光确保您的 AI 解决方案在数据中心和端侧实现可持续扩展，从而更快、更高效地将数据转化为智能。