关于端侧 AI 您需要了解的 5 件事

在当今技术驱动的世界中，AI 正在彻底改变各行各业。无论您关注手机、PC 还是汽车领域，都需要了解内存和存储对端侧设备上 AI 工作负载的关键作用。美光科技深知，虽然 GPU、张量核和 NPU 等计算单元至关重要，但 AI 工作负载往往在计算资源耗尽之前就会遭遇内存墙。我们的业界前沿内存和存储解决方案专为满足这些严苛的端侧数据需求而设计，可保障性能、效率与可靠性。

端侧设备 AI 工作负载的兴起为内存和存储制造商带来了巨大机遇。Gartner 预测，2025 年，支持生成式 AI 的端侧设备硬件支出将增长 99.5%，达到 39 亿美元。作为 DRAM 和 NAND 技术领域的前沿企业，美光在 AI 生态系统中扮演着关键角色，完全有能力把握这一市场机遇。

当思考 AI 在云端及端侧设备（无论是 AI PC、自主机器人、汽车还是手机）中的发展前景时，您需要了解以下五大要点。

1. 随着推理迁移至端侧设备，效率将显著提升，AI 应用也将加速普及

在端侧设备上运行 AI 推理具有多重优势，包括降低延迟、增强隐私性并减少对网络连接的依赖。通过在本地处理数据而非上传至云端，端侧设备能实现更快速、响应更灵敏的 AI 应用。以自动驾驶为例，过去车辆严重依赖云端服务器处理传感器数据，这可能导致响应延迟。如今，车辆借助端侧 AI，可在本地实时处理数据，无需等待云端响应即可立即做出驾驶决策。这一转变有望推动 AI 技术在各行业的广泛应用，实现实时决策并提升用户体验。当消费者能够在自有设备上享受有价值的 AI 体验时，这项技术的普及率将大幅提升。

2. 云端不会消失，分布式 AI 模型将成为主流发展趋势

尽管端侧计算正在崛起，但云端仍是 AI 生态系统的关键组成部分。融合端侧计算与云计算的分布式混合模型，正成为 AI 工作负载的理想解决方案。云端将继续承担大规模数据处理、模型训练和集中管理等任务，而端侧设备则负责实时推理和本地化处理。

这种混合模式可以充分发挥端侧与云端各自的优势，提供灵活性、高效性和可扩展性。此外，代理式 AI（即无需人工干预即可自主做出智能决策的 AI 系统）有助于无缝整合端侧与云端环境，从而优化性能表现、增强安全性并确保资源的高效分配。简而言之，AI 代理可驻留在手机、PC 或汽车等终端设备中。当遇到无法完全解答的问题时，它会自动向云端或数据中心中更复杂、更专业的 AI 模型寻求答案，然后为用户返回更精准的响应。

总之，端侧设备仍将依赖 AI 数据中心和云计算处理特定任务，但并非所有 AI 推理都需要云端参与。

3. 端侧与云端协同运作的 AI 正在带来终极数据挑战

在端侧和云端双重环境中管理 AI 工作负载带来了独特的数据挑战。海量的多样化数据加上实时处理需求，亟需创新解决方案。美光前沿内存和存储技术应运而生，能为复杂的 AI 数据工作负载提供所需的性能、可靠性和效率。

内存瓶颈可谓一个重大问题，在模型训练和推理阶段尤其如此。高带宽内存 (HBM3E) 可有效缓解云端的瓶颈，而 LPDDR5X 则为端侧设备提供了高带宽与高能效。这些技术可确保 AI 应用在端侧设备与云端流畅高效地运行。

我们的全系列产品客户都依赖美光的优势地位与专业积淀，来有效应对这些数据挑战。

4. 内存和存储对端侧设备及云端而言空前重要

随着 AI 模型日趋复杂，它们对内存和存储容量的需求与日俱增。无论是端侧设备还是云端基础设施，都需要支持这些不断扩展的模型，同时不影响性能。美光的内存和存储解决方案专为满足这些需求而设计，可提供 AI 应用所需的大容量与高速度。

我们的产品基于业界前沿制程节点，能效表现卓越，其中采用美光前沿 1γ 制程节点的产品更在竞争中脱颖而出。对于 AI 数据中心而言，高带宽内存（HBM3E 和 HBM4）能有效突破 AI 加速面临的内存墙限制。为实现更佳性能，AI 数据中心需要构建完整的内存与存储层级架构，包括：高密度 DDR5 模块、LPDDR5X、采用美光 CZ122 的 CXL 扩展内存池、采用美光 9550 NVMe™ SSD 的本地 SSD 数据缓存，以及采用美光 6550 ION 的联网数据湖。

同样，端侧设备也需要专用内存与存储解决方案，例如专为手机设计并凭借低功耗和高带宽特性拓展至 AI PC 及汽车应用的低功耗 DRAM (LPDDR5X)。通用闪存 (UFS 4.0)、PCIe 5.0 SSD（如美光 4600 NVMe SSD）以及 4150AT 集中式存储 SSD 解决方案，可确保 AI 应用无论在端侧设备还是在云端都能流畅高效地运行。

5. 您无需独自应对所有数据挑战，美光始终与您同行

凭借逾 45 年的深厚积累，美光已成为手机制造商、PC OEM 厂商和汽车制造商值得信赖的合作伙伴。我们在内存与存储解决方案领域拥有出类拔萃的专业实力，致力于助力客户实现 AI 目标。深厚的行业积淀与持续创新的产品体系，使我们成为解决棘手 AI 数据挑战、把握加速 AI 发展新机遇的理想合作伙伴。让我们携手共进，攻克 AI 技术难题，推动智能科技蓬勃发展。

随着 AI 持续演进，内存与存储在端侧应用及设备中的重要性不容忽视。无论是手机、PC 和汽车领域的企业，还是工业 AI 与机器人行业的先行者，都必须优先考虑这些核心器件，方能确保其 AI 工作负载的成功运行。美光始终提供快速、高效、可靠的解决方案，为这些企业提供助力。

我们的技术不仅能存储数据，更能将数据转化为切实可行的智能洞察，加速价值兑现。