- US - English
- China - 简体中文
- India - English
- Japan - 日本語
- Malaysia - English
- Singapore - English
- Taiwan, China - 繁體中文
无效的输入。不支持特殊字符。
越来越多的消费者希望端侧设备更加自动化和智能化,这一需求推动了 AI 智能手机的采用,使端侧 AI 成为下一代移动体验的关键驱动因素。在端侧设备上本地运行 AI,可减少对持续稳定互联网连接的需求,或者减少对云端等集中式服务器的依赖,从而缩短响应时间,并实现更安全的数据处理。然而,尽管人们对 AI 的期望越来越高,但目前的硬件功能难以跟上 AI 发展的步伐。
AI 正在推动数据处理效率的提升
在以 AI 为核心的经济体中,数据是最基本的要素—— 每一项洞察、每一个预测、每一次决策,都源于对数据的处理。数据的质量、数量和可访问性,与功能强大的先进算法和大模型同样重要。
大语言模型 (LLM) 依赖于大量复杂的数据输入,需要大量的计算资源进行处理。直接在端侧设备上运行这些模型(称为“设备端 AI”)需要能够处理密集型工作负载的高性能硬件。为满足用户对快速响应、无缝应用切换、更短加载时间和更长续航时间的期望,移动设备必须支持本地实时 AI 处理,而无需依赖云端。这种情况下,内存变得至关重要:内存是数据和计算之间的桥梁,只有借助高速内存,处理器才能立即访问和操作大型数据集。系统的响应能力,取决于内存的性能可否匹配处理器的处理能力。然而,AI 处理和高分辨率视频捕获等任务需要消耗大量电量。每一项的性能提升都必须考虑相应的代价,在这一领域也不例外,更高水平的响应能力是以电池电量的快速消耗为代价的。因此,为了在提供 AI 所需速度的同时保持电池续航时间,节能型内存或者低功耗 DRAM (LPDRAM) 至关重要。
以较低电压实现高性能
在近几代 LPDDR(低功耗双倍数据率)内存中,业界一直致力于突破电压调节的限制。由于功率是电压与电流的乘积,因此降低供电电压水平会直接减少功耗。在功耗较大的高速内存系统中,即使适度降低供电电压,也能节省大量能源。
作为新一代移动 DRAM,LPDDR5X 具有更高的带宽和电源效率,为降低供电电压,新规范将曾经整合为一体的 VDD2 轨重新设计为两个不同的域:VDD2H(VDD2 的高压域)和 VDD2L(VDD2 的低压域)。这种设计允许厂商根据不同的性能需求,进行更精确的电压调节。
为充分利用这一架构,DVSC(动态电压和频率切换控制)和 eDVFSC(增强型 DVFSC)等技术至关重要。它们可根据工作负载需求动态调整电压和频率,使 VDD2H 能在低速任务期间以较低的电压运行,从而有助于降低功耗,延长电池续航。
内存组和核心逻辑等高性能器件继续由 VDD2H 和 VDD1 等高压电源轨供电,以保持速度和响应能力。同时,外围电路和 I/O 功能操作由 VDD2L 和 VDDQ 等低压电源轨供电,以在处理低负载任务时降低能耗。
美光在低 VDD2H 领域的创新
VDD2H 和 VDD2L 的分离,大幅提高了供电灵活性,改善了供电效率,标志着 LPDDR5X 技术的长足进步。通过识别不需要原有全电压 VDD2 电源轨的器件,工程师可以让系统在低频活动期间依靠 VDD2L 供电,从而能在不影响响应能力的前提下降低功耗。
但美光的创新并未止步于此。美光工程师发现,即使是由 VDD2H 供电的组件也能承受较低的电压阈值。因此美光工程师引入了低电压 VDD2H (LVDD2H),这是一种经过微调的 VDD2H 低电压版。通过让 VDD2H 在接近其最小可运行电压的 LVDD2H 模式下运行,除了从分离 VDD2L 中已经实现的功耗节约之外,还可节省更多功耗。
降低 VDD2H 的电压(特别是在高速运行模式下)具有以下几大关键优势:
- 降低动态和静态功耗,以及整体能耗。
- 改善热性能,因为功率越低,发热越少。
- 在能效至关重要的移动和嵌入式系统中延长电池续航。
LVDD2H 运行模式
通过大量测试与特征分析,美光工程师确定了两种主要的 LVDD2H 运行模式:标称模式和最小模式。
在标称模式下,为与生态系统性能相匹配,在 8.533–10.7 Gbps 数据传输速率下电压水平保持在 1.05V,在低于 7.5 Gbps 数据传输速率时降低电压水平。在最小模式下,LVDD2H 在全部数据传输速率范围内降低电压水平。
通过 LVDD2H 节约能源
美光的内部测试展示了 LVDD2H 在以下两个主流用例中的重要作用:人工智能标记语言 (AIML) 和使用天数 (DoU)3。在 AIML 工作负载中,将 VDD2H 从 1.060V 降低至 0.98V,可平均节约高达 8% 的功耗4。在 12 个不同的 AI 模型上测试了电压降低的效果,所有测试都显示出显著的节能效果。在所有 LLM 中,Llama 2-13b 的节能效果最明显,达到 12%。这些节能功能可直接增强终端用户在使用多种 AI 功能时的体验,如语音助手、照片处理、自动更正和聊天机器人等。对于 DoU 测试场景,在 8 个不同的用例中,降低电压平均获得了 5% 的功耗节约。DoU 用例包括用户在白天使用移动设备经常从事的典型活动,如 Facebook 聊天、听音乐、浏览网页或观看视频。
未来展望
通过降低电压,可直接降低功耗,延长电池续航,用户每天都能感受到其带来的好处。随着技术以前所未有的速度发展,要想紧跟技术发展步伐,满足其需求,先进的内存解决方案至关重要。美光持续不懈地通过产品设计来尽可能提高能效和性能,除了为最终用户带来切实效益之外,也为整个行业树立了节能型 DRAM 的标杆。通过与生态系统伙伴密切合作,助力协同创新与全行业发展,美光正在塑造未来的数据处理标准。对创新和卓越的不懈追求,使美光能够始终引领未来趋势,不断推出支持下一代用户体验的解决方案。
1. Counterpoint Research. 《推动 AI 在智能手机中普及的生态系统》。2025 年 1 月 10 日发布。https://www.counterpointresearch.com/insight/post-insight-research-notes-blogs-the-ecosystem-driving-ais-democratization-in-smartphones/
2. IDC。《2024-2028 年全球生成式 AI 智能手机预测:2024 年 7 月》。2024 年 7 月发布。《2024–2028 年全球人工智能智能手机预测:2024 年 7 月》
3. 测试配置基于高通平台,所搭载的 2R-1β LPDDR5X 在启用 eDVFSC 后支持的带宽为 9.6 Gbps。由于本报告中所用硬件的限制,相对于 LPDRAM 频率的电压调节固定为 1.06V/0.98V。
4. 由于测试环境的限制,报告中使用的电压水平 (1.060V/0.98V) 与标称设置 (1.05V/0.99V) 略有不同。