设计工具
存储

扫视地平线,寻找 AI 性能的巅峰

Bill Bollengier | 2023 年 10 月

当人工智能(AI)专家将创新的软件定义存储(SDS)与高性能 NVMe 固态硬盘相结合时,会发生什么? 很好的方案。快速且可扩展的方案。

本博客重点介绍 Scan Computers International Ltd(Scan)、PEAK:AIO美光科技之间的合作。这三家公司设计并提供了简便易用的高性能架构,可提供许多 AI 工作负载所需的强大性能和容量(并且此解决方案应在中型客户的财务状况承受范围内)。

欧洲以外的一些人可能对 Scan 不太了解。Scan 是一家专业技术合作伙伴,提供客户端硬件、基础设施解决方案、云计算和服务,所有这些都以极其注重细节著称。他们拥有深厚的内部专业知识,涵盖 PC 游戏、专业图形、视频编辑、音乐制作、高性能计算和人工智能平台设计。

一切都始于一个挑战

Scan 在 AI 系统设计方面久经验证的专业知识告诉他们,传统企业存储无法满足下一代基于 GPU 系统的存储需求。现有的存储硬件和软件无法提供不断增长的复杂数据集和 AI 模型所需的吞吐量或可扩展性。Scan 还知道他们的客户十分重视 RAID 保护的数据。

这些需求促使 Scan 选择了 PEAK:AIO

PEAK:AIO 是一个从零开始设计的软件定义存储(SDS)平台,旨在满足 AI 工作负载的特定需求。此平台部署在标准 x86 服务器技术基础之上,用以构建 AI 数据服务器,提供超低延迟和惊人的带宽,以优化 GPU 利用率。

Scan 确信 PEAK:AIO SDS 平台将是使用 RAID 保护的数据构建中型 GPU 集群的关键要素。Scan 还相信,与使用传统数据保护方法的传统 HDD 存储(如 Linux MD RAID)相比,使用 PEAK:AIO 和固态硬盘可以提供更好的吞吐量。最后,经验告诉 Scan,任何传统的存储架构都过于缓慢、过于复杂、过于昂贵,或者是三者兼而有之,因此他们选择了 PEAK:AIO SDS 平台和高性能 NVMe 固态硬盘,以提供所需的性能、可管理性、可扩展性和数据保护,同时确保经济性。

美光 9400 NVMe 固态硬盘完善了系统

鉴于美光在固态硬盘市场的前沿地位,Scan 和 PEAK:AIO 决定与美光合作进行概念验证性能测试。在此测试中,Scan 扩展了固态硬盘的数量来验证系统可扩展性,同时提升存储容量,以容纳不断增长的数据集并为现代 GPU 提供数据。

Scan 之所以选择美光 9400 固态硬盘,是因为美光专为 AI 训练等吞吐量关键型工作负载设计了这款固态硬盘。美光 9400 固态硬盘可提供高达 30 TB1 的容量,顺序读取吞吐量为 7 GB/秒,随机 4 KB 读取性能高达 1.6 M IOPS。1

一个十分成功的组合

通过在紧凑型 2U 存储系统中添加多达 24 个 30 TB 美光 9400 固态硬盘,Scan 可轻松超过其 150 GB/秒的初始吞吐量目标。事实上,测试表明这个配置可以达到超过 170 GB/秒的吞吐量。

这种组合还清楚地展示了 Scan 的客户所需的容量和性能扩展。随着更多的美光 9400 固态硬盘添加到具有 PEAK:AIO SDS(以浅灰色显示)的系统中,与使用传统 Linux MD RAID(以黑色显示)的系统相比,性能有所提升,如下图所示。

9400 性能图表

按保护类型、PEAK:AIO SDS 和美光 9400 固态硬盘读取性能扩展。


结论

PEAK:AIO 和美光科技的结合产生了出色的结果,具体表现为快速且可扩展的特性,例如:

  • 高达 650 TB 的 RAID 保护存储
  • 超过 170 GB/秒的吞吐量
  • 随着驱动器的增加,线性扩展性能

通过 Scan、PEAK: AIO 和美光的合作,客户可以获得卓越的 AI 工作负载容量、性能和可扩展性,这标志着我们在以下方面迈出了重要一步:将 AI 的好处带给各地企业,以及将经济实惠的 AI 数据性能从遥远的愿景转变为现实数据中心中的应用。

是否需要了解更多信息?

点击此处可了解有关美光科技所有数据中心固态硬盘的更多信息,点击此处可了解有关美光 9400 固态硬盘的更多信息。

点击此处可了解有关其 Scan AI 生态系统的更多信息,点击此处可查看关于该项目的 Scan 新闻稿。

点击此处可了解有关 PEAK:AIO AI 解决方案阵容的更多信息。点击此处可查看有关此项目的 PEAK:AIO 新闻稿。

1 未格式化容量。格式化后的容量更少。美光 9400 NVMe 固态硬盘的完整规格可在此处查看:https://www.micron.com/9400。

Director Product Management, Storage Business Unit

Bill Bollengier

Bill Bollengier is a Director of Product Management in Micron’s Storage Business Unit in Folsom, California. He and his team oversee the strategic planning and product management of Micron’s high performance and mainstream data center solid state drive solutions for enterprise and cloud customers.

Bill Bollengier