摘要：随着人工智能（AI）的快速发展，从边缘人工智能（物联网设备）到为深度学习模型提供动力的大型数据中心，对更高性能、更低功耗和高效内存解决方案的需求涵盖了广泛的应用。尽管人工智能发展迅速，但内存仍然是其致命弱点。如果内存技术没有突破，人工智能性能提升将停滞不前。传

作者：Koji Motomori ， Numem Inc. 的营销高级总监

随着人工智能（AI）的快速发展，从边缘人工智能（物联网设备）到为深度学习模型提供动力的大型数据中心，对更高性能、更低功耗和高效内存解决方案的需求涵盖了广泛的应用。尽管人工智能发展迅速，但内存仍然是其致命弱点。如果内存技术没有突破，人工智能性能提升将停滞不前。传统的内存架构难以跟上日益增长的人工智能工作负载，因此必须重新考虑下一代人工智能系统的内存技术。

人工智能中日益严峻的内存挑战

人工智能工作负载需要实时处理大量数据，无论是节能的边缘人工智能应用还是高性能数据中心人工智能训练。然而，传统的内存技术，如 SRAM、基于低功耗双倍数据速率 (LPDDR)-DRAM 和基于高带宽内存 (HBM)-DRAM，都存在重大局限性：

DRAM 功耗的隐性成本

AI 内存中最紧迫的挑战之一是 DRAM 的功耗，DRAM 仍然是数据中心的主要内存技术。由于 DRAM 消耗的功率高达数据中心总功率的 30% 以上，因此提高内存效率对于可持续的 AI 计算至关重要。造成这种高功耗的因素有几个：

这种不断增长的能源需求对可持续的 AI 计算提出了重大挑战，因此探索能够降低功耗同时保持高性能的新型内存解决方案至关重要。

大型 AI 模型的内存挑战

随着 AI 模型（尤其是大型语言模型 (LLM)）的规模不断扩大，训练和推理对内存的需求也变得越来越极端。理想的 AI 内存应具有：

新兴内存解决方案：AI 计算的未来

为了摆脱这些限制，新的内存架构必须提供高速、高带宽和节能的解决方案。几种新兴技术正在引领这一转变：

1. 磁阻 RAM (MRAM)
重要性：与 DRAM 和 SRAM 相比，MRAM 提供快速读取速度、非易失性和显着降低的功耗。
进步：新的 STT-MRAM 正在提高写入耐久性、带宽和可扩展性，使其适用于 AI 加速器和边缘设备。
影响：MRAM 降低了待机功耗，实现了内存计算，并降低了 AI 系统的 TCO。

2. 电阻式 RAM (RRAM)
重要性：RRAM 是一种超低功耗非易失性存储器，具有高密度和快速切换速度。
进步：耐久性和保留性的提高使 RRAM 成为 AI 推理工作负载和神经形态计算的候选者。
影响：RRAM 支持节能的 AI 模型存储和边缘 AI 应用。

3. 3D DRAM 和 HBM 演进
重要性：传统 DRAM 扩展正在放缓，但 3D DRAM 堆叠和下一代 HBM（如 HBM4 及更高版本）正在提高性能。
进步：未来的 HBM 迭代旨在降低每瓦功率和提高带宽，解决一些 AI 瓶颈。
影响：这种演进增强了大规模 AI 模型的训练和推理能力，但仍然面临功率限制。

4. 内存计算 (CIM) 和内存处理 (PIM)
重要性：AI 推理受到内存移动的瓶颈限制，因此 CIM/PIM 对于加速 AI 性能至关重要。
进步：MRAM、RRAM、相变存储器 (PCM) 和 DRAM 正在适应内存计算架构。
影响：这些方法减少了数据传输延迟、提高了 AI 加速器效率并支持实时 AI 工作负载。

超越内存技术：生态系统和基础设施协调

除了对创新内存技术的期望之外，其他关键因素在 AI 性能进步中也发挥着至关重要的作用：

边缘 AI 中的内存挑战

对于边缘 AI 应用（包括可穿戴设备、电池供电设备（如智能手表）、电动汽车和智能相机）而言，关键挑战是延长电池寿命并保持高性能。当前的内存架构通常依赖于 NOR 闪存用于代码存储和 LPDDR 用于快速数据访问的组合。但是，这种方法会增加系统复杂性、功耗和电路板空间。

需要统一的内存解决方案来简化架构，降低功耗和空间，同时提高效率。新兴的非易失性内存技术结合了快速的读写速度和超低功耗，可以显著增强边缘 AI 设备，在不牺牲性能的情况下延长电池寿命。

AI 计算正走到一个十字路口，传统的内存技术已不足以满足功率和性能需求。随着 LLM 变得越来越大，内存必须不断发展，以满足对 SRAM 般的速度、HBM 级带宽、超低功耗、非易失性和可扩展性的需求。

通过集成下一代内存解决方案，包括 MRAM、RRAM 和内存计算架构，可以克服当前的内存瓶颈并解锁 AI 系统的新效率水平。下一波内存创新将是释放 AI 全部潜力的关键，推动从边缘 AI 到超大规模数据中心的新突破。随着行业不断创新，重新思考内存设计对于塑造 AI 性能的下一个前沿至关重要。

来源：千家智客