分布式 AI

传统上，AI 推理（也称为 AI 处理）的计算任务集中在具备海量计算资源的大型数据中心。然而，对实时应用和即时响应的需求日益增长。

这一需求催生了一种将计算和数据处理任务分布在多个设备上的 AI 模型。

这种方法被称为分布式 AI (DAI)，旨在利用集群、网络或端侧设备等分布式系统的协同算力，处理海量计算和数据任务。

分布式 AI 通过充分利用云计算和端侧计算的优势，满足端侧日益增长的工作负载需求，不断拓展人工智能的应用边界。

与美光一起了解分布式 AI 的工作原理及其带来的优势。如需了解更多信息，请联系我们的销售支持团队。

什么是分布式 AI？

分布式 AI 的定义：分布式 AI 是一种计算方法，其中数据处理采用集中化方式以保障数据安全，而 AI 推理任务则分散在多个节点或设备上执行（通常并行执行），以提高效率、可扩展性和响应速度。

传统的集中式 AI 系统将数据处理集中于单一单元中。而 DAI ​​系统则规避了向单一单元传输海量数据的需求，转而在多个云端和设备上执行 AI 算法，包括在数据源端开展数据分析。

分布式 AI​ 将数据处理集中化，但将推理工作负载分布到云端和端侧设备上；而端侧 AI 则在端侧设备上本地处理数据。尽管采用的方法不同，但分布式 AI 和端侧 AI 在安全性和隐私保护方面均具备显著优势。本质上，分布式 AI 系统利用互联设备的集体智能协作学习和解决问题。

由于 DAI 采用集中化数据处理架构，敏感信息的处理被限定于中心化节点内。这种集中化模式使组织得以应用先进的隐私增强技术（如差分隐私和同态加密），在处理过程中保护数据安全。此外，采用分布推理任务，且规避了大量数据的传输，DAI 最大限度地降低了传输过程中的数据暴露风险。

另一方面，端侧 AI 在端侧设备上本地处理数据，减少了向中心化服务器传输数据的需求。这种本地处理方式最大限度地降低了数据传输过程中遭遇潜在泄露的风险，从而增强了安全性和隐私性。通过了解这两种不同的方法，我们可以认识到 DAI 和端侧 AI 如何共同促进构建更安全、更注重隐私保护的 AI 生态系统。

正如前文所述，分布式 AI 将 AI 推理与云端和端侧无缝集成，提升了处理效率并缩短了响应时间。此类性能优化通过减少数据向数据中心传输过程中面临的延迟、功耗及带宽挑战，提升了用户体验，并使 AI 应用更具可扩展性。而应对这些挑战，也对设备本身提出了更高要求。

总体而言，分布式 AI 代表了 AI 技术的重大进步，并指明了未来发展的方向。与以往的技术迭代相比，让设备在本地实时推理和处理数据，使其功能更加强大、响应更加灵活。

分布式 AI 的工作原理是什么？

分布式 AI 融合云端和端侧计算，提供更高效且更具可扩展性的 AI 解决方案。在该系统中，AI 的训练和开发通常在计算资源丰富的云端进行。

模型训练完成后，随即被部署至端侧设备以进行实时推理，从而实现更快速的响应，并减少对持续网络连接的需求。此方法不仅提升了 AI 系统的效率和可扩展性，还确保了 AI 能力在多样化环境中切实可用、高效运行。

将训练、开发和部署进行分离具有战略意义。AI 设备在设计时预设了规则，明确本地处理与云端处理的触发条件。这种分工可优化资源利用，使设备本地处理轻量级任务，同时将计算密集型任务转至云端进行处理。

设计强大且高效的 DAI 系统的关键在于动态识别系统资源限制，并相应地分配处理工作负载。通过整合智能体 AI（利用自主智能体的能力），并在端侧设备上采用小语言模型 (SLM)，分布式 AI​ 系统能够释放人工智能的真正潜力。

受到决定工作负载分布方式的若干关键因素的影响，DAI 模型在具体功能规则方面有所不同：

• 设备类型：内部计算能力较低的设备可自行处理简单的数据集，但需将计算要求更高的工作负载转至云端进行处理。
• 数据类型：数据集不同，导致处理需求不同。若模型需处理包含文本、数值和图形数据等的大型复杂数据集，则很可能需要将这一较大的工作负载转至云端进行处理。
• 设备与云端之间的连接：分布式 AI 依赖设备与云端之间的快速通信。这种依赖意味着设备与云端之间的连接必须安全且高效，以确保两者之间能够进行高速数据传输。

分布式 AI 的发展历程是怎样的？

• 20 世纪 70 年代中期，分布式 AI 出现：20 世纪 70 年代中期，DAI 作为 AI 的一个子领域应运而生，旨在解决集中式 AI 系统在可扩展性和稳健性方面的局限性。早期 DAI 系统采用独立运行的架构设计，以在动态环境中实现更高的灵活性和适应性。
• 20 世纪 90 年代，机器学习取得进展：20 世纪 90 年代是 DAI 发展的关键时期，机器学习和自然语言处理 (NLP) 取得了重大进展。研究人员探索了决策树和神经网络等新技术，使机器能够从数据中学习，并随着时间的推移不断提升性能。尽管面临计算能力有限等挑战，这十年仍见证了专家系统的兴起，以及旨在通过图灵测试的 A.L.I.C.E. 等聊天机器人的开发。此外，这一时期还经历了“AI 寒冬”，对 AI 研究的资金投入和关注度出现暂时性下降。
• 21 世纪 00 年代初，人工智能驱动：21 世纪 00 年代，AI 发展转向数据驱动模式，利用海量数据集来提升性能。这一时期，大数据 AI 兴起，图像识别、语音识别及个性化新闻推送等能力有所增强。分布式 AI 系统的稳健性和自适应性进一步提升，同时整合了多智能体系统和分布式问题解决方法。数据可用性的提升和计算能力的进步，极大推动了 DAI 的发展与应用。
• 21 世纪 20 年代，分布式 AI 的突破：21 世纪 20 年代，受深度学习、自然语言处理技术的突破，以及 GPT-3 和 GPT-4 等生成式 AI 模型涌现的驱动，AI 领域取得了前所未有的进步。这些进步使 DAI 系统能够利用海量数据和计算能力，构建更为复杂且更具可扩展性的解决方案。AI 在各个行业（从医疗保健到金融）的融合应用，充分展现了 DAI 在解决复杂现实问题方面的变革潜力。

创新的快速推进不断拓展分布式 AI 的可能性边界，使其成为现代 AI 研究与应用的关键组成部分。

分布式 AI 有哪些主要类型？

分布式 AI 的主要类型包括设备中心型、设备感知型以及联合处理型分布式 AI。

• 设备中心型分布式 AI 以设备自身为核心处理节点，仅在设备缺乏计算能力或处理能力来产生足够输出时，才会将少量任务转至云端进行处理。
  
  该方法确保大部分数据处理在设备本地完成，减少了对持续云连接的需求，并提高了实时响应性能。
  
  笔记本电脑搭载的 AI 聊天机器人便是一个应用示例。在此场景下，设备会在本地处理大部分任务，无需过度依赖云资源即可提供快速高效的响应。
• 设备感知型分布式 AI 模型会处理原始输入数据，将其转换为文本数据，然后再发送至云端进行进一步处理。该方法允许在本地完成初始数据预处理，可减少需要传输至云端的数据量，并提高整体系统效率。
  
  智能家居设备中的传感器就是此类分布式 AI 的典型应用示例：传感器会在本地对数据进行预处理，然后将其发送至云端进行更复杂的分析和决策。
• 联合处理型分布式 AI 将处理工作负载在设备端和云端之间进行分配，以实现输出效能的最大化。该模式使用多个大语言模型 (LLM) 分别处理数据集的不同部分。
  
  这种方法充分利用了本地处理和云端处理的优势，确保任务由最合适的资源来处理。
  
  自动驾驶汽车是联合处理型分布式 AI 的典型应用示例。这类车辆在本地处理数据以做出即时驾驶决策，同时将路线优化、交通分析等更复杂的任务转至云端服务器进行处理。

分布式 AI 是如何应用的？

分布式 AI 的一个主要用例是在智能手机和平板电脑等移动设备中嵌入更强大的 AI 模型。像 ChatGPT 这样的 AI 聊天机器人正在颠覆科技行业，包括推动移动设备和搜索功能的演进。这类聊天式搜索引擎的日益普及，依赖于 DAI 算力的持续提升和技术的日益成熟。DAI 的处理过程在本地设备与云端 LLM 之间协同完成。

DAI 的另一用例是，推动自动驾驶汽车技术的演进。曾经仅存在于科幻小说中的技术——无人驾驶汽车和自动驾驶汽车，正因分布式 AI 的赋能快速成为现实。在此类车辆中，DAI 模型可将复杂的数据处理任务转至云端计算机，而核心的数据收集和优化则保留在本地端完成。

得益于物联网 (IoT)，分布式 AI 已融入我们的日常生活。在 IoT 网络所涵盖的技术中，AI 模型被用于优化决策，从而在多个行业中提高效率并增强用户体验。