- US - English
 - China - 简体中文
 - India - English
 - Japan - 日本語
 - Malaysia - English
 - Singapore - English
 - Taiwan, China - 繁體中文
 
无效的输入。不支持特殊字符。
我的职业生涯中曾经有过几段以创新和拓展新业务为中心的“黄金时期”。当我回顾这些时期时,发现它们都有一个核心特征:抓住了从根本上重塑行业的长期趋势。这种创业精神和增长愿景是我欣然加入美光的原因。美光是一家建立在发明创新、全球技术领导力以及当地社区影响力之上的公司。如今,最重要的转型趋势是智能时代的加速来临,而美光则是让 AI 在全球范围内切实落地、高效运行且触手可及的重要推手。
1. AI 的长期趋势如何重塑全球格局?
AI 计算的需求每半年便会翻一番,激增的需求推动全球各地区展开了一场 AI 本土化竞赛。各个国家/地区和行业正在以前所未有的速度建设数据中心,以便在任何地方都能基于主权、大规模地提供 AI 服务。
人工智能正推动着一场长期趋势,不断改变现代生活的方方面面——从集中式实验室走向广泛部署,渗透到金融、医疗、工程和制造业等多个领域。这种趋势要求 AI 从侧重于训练转变为侧重于大规模推理。
在这一全球转型过程中,有两个关键需求:
- 随时随地进行推理:无论是在云端、本地数据中心还是在端侧设备中,AI 工作负载都必须更接近数据生成的位置。
 - 数据和 AI 的主权:各个国家和地区正在优先考虑数据和 AI,以促进信任、弹性和经济增长,这一需求正在加速全球大规模区域数据中心的建设。
 
我们可以从全球主要地区的 AI 部署中看到这种势头:
- 美国:大型多站点超大规模计划,如星际之门 (Stargate) 计划,将训练中心与区域推理区配对,需要超高的密度和能源管理技术。
 - 欧洲:侧重于通过绿色能源整合实现主权能力,例如 Stargate Norway 等地标性站点,以及支持 Mistral 等本土 AI 公司的 GPU 集群。
 - 中东:阿联酋和沙特阿拉伯等国家正在通过面向智能城市物流和医疗保健的国家级 AI 计划迅速扩张其 AI 能力,需要能够将数据驻留在国内的基础设施,同时还需要优化每机架吞吐量。
 - 亚太地区 (APAC):中国、印度、日本和中国台湾等亚太国家/地区正在迅速建设 AI 基础设施,用于训练和推理(包括以当地语言进行的推理),这些举措催生了各种应用程序,有望丰富数十亿人的生活。
 
2. 美光如何提供未来 AI 所需的规模和性能?
AI 模型需要以尽可能快的速度访问和处理大量数据集。由于所有数据都驻留在内存与存储中,数据流的速度与效率便成为关键瓶颈,导致昂贵的 GPU 集群与 CPU 可能因数据供给不足而无法充分发挥性能。美光凭借其技术与产品的领先优势,从性能、容量和能源效率等方面为内存墙问题提供了解决方案。
未来由 AI 引领的转型依赖于美光提供的专业内存和存储产品组合:
性能和延迟:确保计算所需的数据供应
内存和存储对于确保有足够的数据流向处理器(GPU、CPU、XPU)至关重要。
 
| 产品/技术 | 对于 AI 的价值(速度、延迟) | 
|---|---|
| HBM(HBM3E / HBM4 路线图) | HBM 是基于 GPU 的高性能计算 (HPC) 和 AI/服务器解决方案的首选。美光的 HBM3E 的引脚速度超过 9.6 Gb/s,总带宽超过 1.2 TB/s,位居业界前列。美光近期在向重要客户交付 HBM4 样品,其带宽超过 2TB/s,可实现与下一代 AI 平台的无缝集成。 | 
| GDDR7 | GDDR7 系统的每引脚速度高达 32 Gb/s,系统带宽超过 1.5 TB/s,与 GDDR6 系统相比,提升了 60%。对于“文生图”等生成式 AI 工作负载,美光 GDDR7 可将响应时间缩短高达 20%(与 GDDR6 相比),能够更快获得结果,从而提供更出色的用户体验。 | 
| MRDIMM | 在主内存解决方案中,多路复用列 DIMM 可提供更高的带宽和更低的延迟。与 DDR5 RDIMM 的数据传输速率相比,MRDIMM 的带宽提升高达 39%;在运行 RAG 等容量和带宽敏感型工作负载时,延迟可缩短高达 40%。 | 
| SOCAMM | 凭借与 NVIDIA 合作开发的技术创新,美光成功将 LPDRAM 引入了数据中心平台,可提供前所未有的每瓦特性能。与 DDR5 系统(在通过 PCIe 接口连接 Hopper GPU 的 x86 系统上)相比,采用 NVLink 技术连接 GH200 的美光 LP 具有显著优势,推理吞吐量高达 DDR5 系统的五倍,延迟缩短约 80%! | 
| 美光 9650 PCIe 6.0 SSD | 全球率先推出的 PCIe® 6.0 数据中心 SSD。其顺序读取速度高达 28 GB/s,随机读取性能高达 5.5 MIOPS,性能可达 PCIe 5.0 驱动器的两倍。该产品可大幅提升数据传输速度,为具有高并行处理能力的 GPU 及时提供数据,尽可能减少闲置周期。 | 
| 美光 7600 SSD | 为 AI 以及对性能要求严苛的数据中心工作负载带来更低延迟和出众的服务质量 (QoS)。有利于快速访问各种主流工作负载。 | 
技术创新:支持内存容量扩展
- 1γ (1-gamma) DRAM 技术节点将每片晶圆的位密度提高了 30% 以上(与上一代 1β (1-beta) 节点相比)。随着 AI 等以数据为中心的工作负载不断增长,这一创新使美光能够高效满足变化的市场需求。
 - 美光 G9 NAND(第 9 代 3D NAND)实现了业界前沿的存储密度,为存储领域的未来创新奠定了基础。美光 6600 ION NVMe SSD 基于美光 G9 QLC NAND 打造,在 E3.L 外形规格下可提供高达 245TB 的业界前沿容量,每 1U 机架空间的存储总容量超过 3.9PB,从而彻底改变了 AI 数据湖和超大规模存储系统的现有格局。
 - 依托在先进封装领域的优势地位,美光推出了 12 层堆叠 HBM3E。采用该产品的 36GB 内存立方体可在占用空间不变的前提下将容量大幅提高 50%(与之前的 8 层堆叠 HBM3E 相比)。这使客户无需 CPU 卸载即可训练和运行更大的 AI 模型,并能够更快获得洞察。
 - CXL 附加内存(如美光 CZ122 模块)使服务器 OEM 能够为数据密集型应用轻松扩展内存容量和带宽,从而解决“内存墙”问题。
 - 美光基于单颗粒 32Gb DDR5 封装的大容量 DIMM 支持高达 128GB 的容量,延迟比 3DS RDIMM 低 16%,可提供 AI 和通用工作负载所需的更高吞吐量和更大容量。
 
可持续发展和低能耗
以可持续的方式实现智能加速至关重要。美光的技术和产品具备出色的能源效率:
- 与 1-beta DDR5 相比,1-gamma DDR5 具有更快的速度 (9200 MT/s),且功耗降低高达 20% 。
 - HBM3E 具有优异的能效,功耗比市场上的竞品低 30%。
 - LP-SOCAMM(基于 LPDDR5X 的模块化外形规格内存)是面向 AI 数据中心的旗舰级内存解决方案,可改善数据中心的能效并显著提高性能。运行 Multichase 和 POT3D 工作负载时,LPDDR5X 内存的功耗相比 DDR5 内存可降低 77%。
 - 美光 9650 和美光 6600 ION 等 SSD 解决方案旨在实现出色的能源效率和更低的碳排放,帮助企业减少运营支出 (Opex)。美光 9650 甚至提供液冷选项,可实现更高的散热效率。
 
更高的内存性能、更低的延迟和更大的容量,使客户能够加速训练更大的 AI 模型,为各行各业提供响应更快的应用,以此优化用户体验。与此同时,美光的高能效解决方案还可帮助企业降低运营成本,尽可能减少对环境的影响。这些进步不仅提升了企业的业务成果,还改变了人们的生活方式,以及与 AI 互动的方式。
3. 美光如何通过全球合作加速 AI 创新?
美光是 AI 时代的战略推手,与全球生态系统合作伙伴、超大规模企业、OEM 厂商和新兴的新云提供商均建立了合作关系:
- AI 推手:美光与市场主流厂商密切合作,包括英特尔(例如,针对 Xeon 6 处理器的 MRDIMM)、AMD(例如,将 HBM3E 集成到 Instinct GPU 中,以及 DDR5 方面的合作)、NVIDIA(美光与 NVIDIA 合作开发了 SOCAMM,以支持 NVIDIA GB300 Grace™ Blackwell Ultra Superchip)。此外,美光的 HBM3E 12H 36GB 已被 NVIDIA 的 HGX™ B300 NVL16 和 GB300 NVL72 平台采用。
 - 超大规模企业、OEM 和新云:美光与顶级超大规模企业、OEM 厂商和更广泛的生态系统均有合作,以此加速全球 AI 革命。美光还与 CoreWeave 等 AI 云服务提供商合作,利用美光 7600 SSD 等低延迟解决方案帮助客户大幅提升数据吞吐量。
 - 本地支持:在坚持全球制造的同时,美光也致力于提供区域支持。我们的战略是设立能实时解决问题的区域客户开发团队,确保相关系统可针对当地条件和经济状况进行优化,从而为当地客户提供支持,无论是超大规模企业,还是当地的中小运营商。
 
有明确目标的创业精神
如何抓住关键转折点,并将其转化为包容性的进步,是我非常感兴趣的话题。AI 引领的转型是未来几年内的重大机遇,这一过程需要美光提供的基础内存和存储技术。
美光的解决方案提供了运行 AI 应用所需的性能、容量和能效,使全球每个社区和创新者都能利用 AI 的潜力。从美国的大规模多站点计划,到欧洲新兴的主权集群,再到中东和亚太地区市场的高密度数据中心建设,全球 AI 部署正在疾速发展,而美光始终是您值得信赖的内存和存储创新合作伙伴。美光的内存和存储将为智能时代的加速提供支持,并逐步改变世界各地人们的生活。