美光科技术语表

端侧 AI

粉色、紫色和蓝色组成的抽象彩色波浪

近年来,人工智能 (AI) 技术飞速发展,已成为人们日常生活中不可或缺的一部分,而端侧 AI 则为 AI 的进一步发展提供了动力。端侧 AI 已融入智能终端设备和物联网 (IoT) 设备,并在一些行业中得到广泛应用,提高了任务执行的效率,并加速了业务运营和流程。

什么是端侧 AI?

端侧 AI 的定义:端侧 AI 融合了端侧计算、人工智能和机器学习,主要用于在联网设备上执行任务。

端侧 AI(“Edge AI”或“AI at the edge,即部署于端侧的 AI”)是一种直接在终端设备上执行任务的技术,支持在本地处理数据。也就是说,端侧 AI 在数据生成位置附近(即智能设备本身)对数据进行处理。这种本地处理方式既能降低延迟,又能增强隐私保护,这也是端侧 AI 与依赖集中式数据中心的传统 AI 的区别。尽管“端侧”这一术语含义模糊,并未指明任何具体位置,但这也恰恰突显了端侧 AI 的灵活性与广泛适应性。

端侧 AI 为智能设备提供实时数据,提升设备在多种应用场景中的生产效率和用户辅助能力,包括智能汽车、智能家电、可穿戴设备、智能手机、工业物联网设备、医疗设备和零售系统等。端侧智能设备是一个多样化的生态系统,而端侧 AI 能够为各个领域的端侧设备提供更快、更高效且具备情境感知能力的服务。

端侧 AI 技术已融入我们的日常生活,其支持的设备包括交通信号灯、医院和商店里的设备,以及智能手机等。简言之,任何连接到互联网且具备本地处理能力的设备,都可以使用端侧 AI。

端侧 AI 的工作原理是什么?

与许多人工智能技术一样,端侧 AI 旨在实现类人智能,从而能够正确地完成其预定功能。它使用数据结构内的神经网络来模拟人类的认知过程。

端侧 AI 的一个关键组成部分是深度学习,这涉及利用训练数据来确保准确性。对于端侧 AI 而言,预先训练尤为重要,因为它处理的是实时数据,而在其应用场景下,任何错误都可能造成严重后果。为避免此类错误,端侧 AI 使用的模型必须经过大量训练。

经过训练后,模型便成为一个推理引擎,能够在部署了端侧 AI 的本地设备上运行。当模型遇到问题时,会通过云端将这些问题发送给原始 AI 模型,以便进行重新训练。这种持续的学习循环有助于端侧 AI 实现并保持较高的推理水平。

端侧 AI 的发展历程是怎样的?

端侧 AI 的发展历史与端侧计算的发展紧密相连,而端侧计算最早出现于上世纪 90 年代。随着无线网络日益普及,移动设备已成为我们日常生活中不可或缺的一部分,人们对互联互通且易于使用的设备的需求也随之增长。这一需求促进了端侧计算的发展。

与此同时,AI 技术也在不断进步,并日益融入我们使用的这些设备之中。在 21 世纪 10 年代,端侧 AI 将这两项新兴技术融合在了一起。这种融合催生了利用 AI 技术高效运行的设备,支持实时数据处理和决策,能够为用户提供最佳体验。

端侧 AI 有哪些主要类型?

端侧 AI 是人工智能的一个子集,涵盖了多种 AI 模型。机器学习、神经网络和深度学习在端侧 AI 的处理过程中都至关重要。

  • 机器学习使设备能够从已处理过的数据中学习,从而能让采用端侧 AI 的智能设备有效运行并发挥最大效能。此外,机器学习与端侧 AI 相结合,使其能够轻松分析海量数据。
  • 神经网络则帮助集成 AI 的设备学会如何回答特定类型的问题。端侧 AI 需要神经网络的配合才能正常运行,因为用户向智能设备提出的某些问题,其答案必须包含实时数据和信息。
  • 深度学习对于包括端侧 AI 在内的很多复杂应用至关重要。如果没有深度学习,将很难发现数据中的缺陷,智能设备也将无法有效运行。

端侧 AI 是如何应用的?

端侧 AI 将技术无缝融入我们的日常生活,让我们能够以更直观的方式保持更紧密的联系。除了智能手机之外,家庭中的智能设备是端侧 AI 的主要应用领域之一。如今,越来越多的智能家电和设备已经上市,旨在简化日常任务,并让现有技术更易于使用。半自动驾驶车辆是端侧 AI 的另一个日益普及的用例。端侧 AI 有助于提高这些车辆的准确性和效率,降低行车安全风险,减少信息安全问题。AI 设备无需连接远程服务器即可提供信息,因此房主和驾驶员的数据及隐私能够得到保护。

借助端侧 AI,医疗行业变得更加高效和有效。患者数据是一个重大的安全问题,因为需要通过远程方式访问大量敏感的私人数据。更智能的端侧 AI 技术进一步增强了设备端的安全防护。此外,随着越来越多的患者佩戴可穿戴设备,端侧 AI 技术能在紧急情况下更迅速地向医护人员发出警报。

常见问答

端侧 AI 常见问答

就端侧 AI 的局限性而言,端侧 AI 设备的能效和可用的存储空间是两大挑战。然而,随着内存技术领域的进步(例如美光在内存领域取得的进展),这些挑战正在被克服。美光的内存和存储产品专为节能而设计,既能降低能耗,又能为端侧设备提供必要的存储容量。

端侧 AI 对于在本地处理数据至关重要,它能减少对云服务器的依赖,并提升隐私保护水平和响应速度。AI 技术的进步(例如联邦学习多模态智能体 等)正在加速提升端侧 AI 的能力。联邦学习能够使用去中心化的数据实现协作学习,而多模态智能体则能整合来自不同来源的数据,实现更丰富的交互。美光的高能效内存和存储产品为这些技术进步提供了支持,使端侧设备的功能更强大、效率更高。