- English – US
- English – India
- English - Malaysia
- English - Singapore
- 日本語 (Japanese)
- 简体中文 (Simplified Chinese)
- 繁體中文 (Traditional Chinese)
人工智能热潮的核心是超大规模云服务商 (例如 Google Cloud、Amazon AWS、Microsoft Azure 等), 这些公司设计、建造和运营计算基础设施,其超大的规模 从根本上重新定义了数据中心的能力。随着 AI 工作负载的复杂性和规模不断增长,超大规模云服务商已成为 现代数字经济的重要支柱。
什么是超大规模云服务商?
超大规模云服务商是指设计、建造和运营大规模数据中心的公司, 其运营的数据中心规模巨大,普通企业基础设施无法企及。 超大规模主要是指容量和功能:设施内至少可容纳 5,000 台服务器, 占地面积达到 10,000 平方英尺或以上,采用的架构 能够按需扩容,无需从零开始构建。
超大规模云服务商的名称源自超大规模计算,这是一种 处理数据的方法,其中的软件架构能够随着需求的增长 而扩展。Amazon Web Services (AWS)、 Google Cloud、Microsoft Azure、Meta 和阿里云等全球主要云服务提供商, 均符合这一定义,这些厂商在全球运营着数百个数据中心设施, 并同时运行着数百万台虚拟机。
实际上,排名前列的超大规模数据中心拥有数十万台服务器, 其园区占地面积超过一百万平方英尺, 每座设施的耗电量达 50 兆瓦或以上。这种全球规模的覆盖能力, 使超大规模云服务商能够同时服务数百万或数十亿用户, 这种运营能力 是传统的企业基础设施无法现实的。
超大规模云服务商如何运作?
超大规模数据中心通过六大核心组件实现其规模, 这些组件作为一个集成系统协同运作。每个组件都经过精心设计, 在更换、升级或扩展时, 设施中的其余部分无需停机。
- 服务器机架行:商用服务器堆叠在按行排列的机架中, 每台服务器内部都运行着虚拟机或容器, 其中托管着云工作负载
- 配电系统:冗余电源馈线 通过变压器和不间断电源 (UPS) 引入机房, 并配有备用发电机;电气系统占 建设成本的 40–50%
- 冷却系统:服务器排出的热空气通过 空气处理机组、冷通道封闭设备或用于高密度 AI 机架的 直接液冷系统收集
- 网络架构:高速内部网络 连接所有服务器;大多数超大规模云服务商部署 25 Gbps 或 100 Gbps 服务器链路,以及 40 Gbps 或更快的主干连接
- 软件编排:采用 Kubernetes、专有 调度程序或分布式计算框架,负责管理工作负载 放置,可在几分钟而非几周内完成容量配置
- 物理安全:生物识别访问控制、 视频监控和周边系统保护着存储 数百万客户数据的设施
有三个属性从根本上区分了超大规模基础设施 与传统的 AI 数据 中心:自动化运维、分布式架构和 定制硬件。超大规模云服务商通常会定制其 基础设施的主要部分,包括服务器设计、网络、冷却系统等, 在某些情况下,还会定制芯片或 AI 加速器。这种定制硬件 与商用硬件相结合的方式,有助于在大规模运营中 提升性能、效率,并改善总拥有成本。
超大规模 基础设施如何发展?
超大规模基础设施的出现,是为了满足对 互联网规模服务的支持需求,而传统的数据中心设计无法 满足这种需求。而从大型服务器群向专用 超大规模园区的演变,则与云计算、 移动互联网和 AI 的兴起高度相关。
- 2000 年代初:Google 和 Amazon 开始构建 规模巨大的专有服务器基础设施,以支持全球规模的搜索和 电子商务工作负载
- 2006 年:AWS 作为公有云平台推出, 为全球企业提供按需使用、即用即付的基础设施, 确立了超大规模云服务商的商业模式
- 2010 年代:Microsoft Azure、Google Cloud 和阿里云兴起, 成为主要的超大规模云服务商;随着移动 互联网使用量和流媒体需求激增,这一领域的投资加速增长
- 2020–2022 年:新冠疫情加速了云计算的普及; 超大规模云服务商迅速扩容,以应对远程办公、 数字服务和视频流媒体需求的激增
- 2023 年至今:生成式 AI 引发了新一轮 超大规模基础设施投资浪潮。Amazon、Microsoft、 Google 和 Meta 预计仅在 2026 年就将投入总计数千亿美元, 用于 AI 和数据中心基础设施建设。
超大规模云服务商有哪些 主要类型?
超大规模云服务商的主要商业模式以及 向市场提供的服务各不相同。尽管它们有一些相同的特征, 即拥有超大规模的自动化基础设施,但在如何 将这种规模优势变现,以及主要服务哪些客户方面存在差异。
1. 公有云超大规模服务商
公有云超大规模服务商是指直接向企业、开发者和组织出租云计算 基础设施的公司。 AWS、Microsoft Azure 和 Google Cloud 等提供商提供对 计算、存储和网络资源的按需访问,使客户能够按需扩展工作负载, 无需建设或管理自己的数据中心。
2. 社交和消费者平台超大规模云服务商
社交和消费者平台超大规模云服务商是指运营着 超大规模基础设施、主要用于支持自有大规模 数字平台的公司。Meta 和字节跳动使用这种基础设施支持 消费者应用、广告平台和内部 AI 研究 项目。
3. 电子商务和企业级超大规模云服务商
电子商务和企业级超大规模云服务商是指那些结合了 大规模内部业务工作负载与公有云或企业云 服务的公司。阿里云和 IBM Cloud 通过 支持电子商务、企业应用及云基础设施需求, 服务于区域和全球市场。
4. AI 优化型基础设施提供商
AI 优化型基础设施提供商是指 专为支持图形处理器 (GPU) 密集型基础设施而构建的平台, 用于 AI 训练和推理。这些提供商聚焦 高性能计算、快速网络和加速器密集型配置, 专为满足要求严苛的 AI 工作负载而设计。
常见的 超大规模云服务商用例有哪些?
超大规模云服务商提供的基础设施能够支持广泛的 行业和应用。通过访问超大规模云服务商提供的现成、可扩展的 基础设施,企业能够开展实验、构建应用 并进行创新,无需管理物理硬件。来自超大规模云服务商的云 解决方案降低了部署企业级基础设施所需的资本支出, 同时还为企业带来了 实时扩缩容的灵活性。
- AI 训练和推理:所有主流 AI 模型, 包括 GPT-4、Gemini 和 Llama 3 等,均在超大规模 基础设施上进行训练;高密度 GPU 机架支持十亿级参数模型的 开发
- 企业云计算:组织 将工作负载迁移至超大规模云平台,以降低基础设施成本, 提升敏捷性,并获取数据库、 网络和安全方面的托管服务
- 大数据分析:超大规模云服务商可处理并 存储 PB 级的数据集,为商业智能、 实时决策和预测建模提供支持
- 机器学习开发:数据科学团队 使用超大规模平台来大规模训练、验证和部署机器 学习模型,无需管理底层 硬件
- 内容交付和流媒体:视频、游戏 和媒体平台依赖全球分布的超大规模 基础设施,为数十亿 并发用户提供低延迟内容
- 物联网 (IoT):工业和 消费级物联网应用在超大规模设施中聚合设备数据, 进行实时处理、存储和响应
- 边缘 AI 与混合云:超大规模云服务商支持 边缘 AI,可帮助各组织在 云端训练、管理和更新 AI 模型,同时将延迟敏感型工作负载运行在更靠近数据 生成的地方(例如工厂、车辆、零售站点和联网 设备)
美光的数据 中心 SSD 和内存解决方案为 超大规模云服务商所依赖的存储和内存子系统提供支持,确保长期稳定运行 全球规模的 AI 工作负载。美光专门设立了云内存 业务部门,目的是让产品开发与超大规模云服务提供商的 需求保持一致,尤其是用于数据密集型 AI 任务的先进固态硬盘 (SSD) 和高带宽 内存 (HBM)。
美光如何为 超大规模云服务商赋能?
美光通过专为大规模云、AI 和数据中心工作负载打造的 内存与存储技术,为超大规模云服务商赋能。这些 解决方案可帮助客户扩展、简化、整合和自动化 超大规模环境,同时确保数据在 GPU、CPU 和 其他处理单元之间流畅传输。
针对超大规模环境,美光提供了数据中心内存、 高带宽内存 (HBM)、DDR5、大容量 RDIMM 和 NVMe 固态 硬盘 (SSD) 等产品。这些技术有助于将更多数据传输到更靠近 计算的地方,提高存储吞吐量,并支持 AI 训练、推理、 分析和云原生服务。
美光的闪存和存储产品已帮助部分全球知名云公司提升了工作负载和 应用的性能。 美光工程师与 Meta 合作,使用 Meta 的开源 DCPerf 基准测试套件, 在真实超大规模工作负载上对低功耗 DRAM 进行了评估。如需了解 更多信息,请参阅 关于在数据中心内采用 LPDDR 的美光博客。
随着超大规模云服务商持续扩展云、AI、边缘 AI 和数据中心 基础设施,内存和存储仍然是高效扩展 性能的核心。美光致力于通过技术来支持这一增长, 这些技术能够更快且更 高效地在集中式云系统和分布式环境中移动、存储和 访问海量数据。
超大规模云服务商在规模、 自动化以及硬件设计方面与传统数据中心有所不同。传统企业数据中心 容纳的服务器少于 5,000 台,需要依赖商用现成 硬件,并需要通过耗时数周的采购周期进行手动扩容。 超大规模云服务商运营的设施内拥有数十万台服务器, 会设计自己的定制芯片和网络硬件, 能够通过软件编排在几分钟内完成扩容, 仅需几毫秒,便可在服务器或地理区域之间迁移工作负载。
超大规模基础设施提供了 AI 模型训练和推理所需的 计算密度、内存带宽和 存储吞吐量。单个 AI 训练机架的功耗可达 10 至 30 千瓦, 功率密度最高可达标准企业级机架的十倍。只有 配备了专用供电系统、 直接液冷系统和高速网络架构的超大规模设施,才有能力 经济高效地运行 GPU 集群,满足在生产规模下训练和部署 前沿 AI 模型的需求。