摘要:半导体产业中,存储器的重要性不言而喻,特别是DRAM(动态随机存取存储器)和NAND(闪存)两大类别,它们不仅支撑起行业的半壁江山,还不断催生新的增长点。近年来,随着生成式人工智能(AI)的崛起,特别是ChatGPT等技术的广泛应用,存储器市场迎来了新的发展机
半导体产业中,存储器的重要性不言而喻,特别是DRAM(动态随机存取存储器)和NAND(闪存)两大类别,它们不仅支撑起行业的半壁江山,还不断催生新的增长点。近年来,随着生成式人工智能(AI)的崛起,特别是ChatGPT等技术的广泛应用,存储器市场迎来了新的发展机遇,新型存储技术如HBM、QLC SSD等备受瞩目。
AI时代,计算能力固然重要,但存储的作用同样不可忽视。随着生成式AI的火爆,非结构化数据如图像、视频、音频等呈现爆炸式增长,这对存储提出了前所未有的挑战。据IDC预测,到2028年,全球数据产量将达到394ZB,其中AIGC领域的数据增长尤为显著,AI图像和视频生成数据量将激增167倍。
面对这一挑战,存储逐渐成为AI发展的瓶颈。存内计算作为一种创新的解决方案,近年来备受关注,但商业化进程却步履维艰。近日,三星电子与SK海力士宣布合作,共同推进LPDDR6-PIM内存产品的标准化。这一合作旨在加速专门用于AI的低功耗存储器标准化进程,有望为存内计算的商业化注入新的动力。
在AI领域,算法、数据和算力是三大核心要素,而算力(芯片)则是决定AI能否最终落地的关键。随着ChatGPT、GPT-4等大模型研究的深入,模型结构日益复杂,数据量与计算量大幅增长。然而,摩尔定律的逐渐失效使得芯片制造工艺演进放缓,算法发展与硬件发展之间的矛盾日益突出。如何高效利用复杂算法处理海量数据,成为当前AI领域的重要挑战。
传统的冯·诺依曼架构中,计算与内存分离,导致功耗墙、性能墙、内存墙等问题凸显。为了突破这些瓶颈,国内外学术界和产业界从架构、工艺、集成等多个维度展开研究,探索后摩尔时代的新一代芯片技术。其中,存算一体芯片通过器件、架构、电路、工艺的协同创新,实现存储与计算的融合一体化,被视为突破冯·诺依曼架构瓶颈的重要途径。
存算一体芯片具有三种主流技术路径:近存计算(PNM)、存内处理(PIM)、存内计算(CIM)。近存计算通过减少数据移动和提高缓存效率,适用于需要大规模并行处理和优化内存带宽的应用;存内处理则注重数据密集型应用和能效优化,适合快速数据处理和降低能耗;存内计算则专注于特定领域的高并行性计算和定制硬件优化,适用于高度专业化和定制化解决方案。
在存算一体的概念上,业界已经进行了多年的探索。从斯坦福研究所首次提出“logic-in-memory”方案,到后续研究人员在芯片电路结构、计算架构与系统应用等方面的研究,存算一体的理念逐渐深入人心。然而,受限于电路设计复杂度与工艺难度,早期的研究大多停留在近存计算的层面,存算分离的问题依然存在。近年来,随着大数据驱动应用的发展,数据量激增,研究者们开始考虑赋予内存一定的计算能力,从而实现存储和计算融合一体化的“存内计算”架构。
在巨头们的布局中,存内计算技术逐渐走向成熟。三星、海力士、TSMC等国际巨头以及阿里巴巴达摩院等国内企业纷纷投入研发,推出了基于不同技术路径的存内计算芯片。例如,三星展示了基于HBM2-PIM技术的存内计算芯片,提供了高达1.2 TFLOPS的嵌入式计算能力;阿里巴巴达摩院则成功研发了全球首款基于DRAM的3D键合堆叠存算一体AI芯片,在特定AI场景中性能提升10倍以上,能效比提升高达300倍。
然而,尽管各家企业都在积极布局存内计算技术,但商业化进程却受到标准化问题的制约。由于各家企业根据各自的标准开发产品,导致概念和规范存在差异,行业难以采用通用标准。为了推动存内计算的商业化进程,三星电子和SK海力士正在合作推动LPDDR6-PIM内存的标准化。他们与联合电子设备工程委员会(JEDEC)进行标准化工作,讨论确定每项标准的具体规格。
标准化的推进将带来多重好处。首先,它可以提升兼容性和互操作性,使得不同厂商生产的PIM设备可以在同一系统中无缝协作,减少因兼容性问题导致的系统故障或性能下降。其次,标准化有助于降低成本,减少研发成本和时间,促进规模经济,降低生产成本,从而使得PIM技术更加普及和实惠。标准化还将加速技术的广泛应用和普及,推动存内计算技术的快速发展。
除了三星和SK海力士的合作外,其他企业也在积极探索存内计算技术。例如,TSMC展示了在SRAM、ReRAM、PCM、STT-MRAM等多种器件上实现存内计算的探索成果;美国处理器公司Mythic推出了采用模拟存内计算方案的M1076处理器;国内知存科技则推出了首款量产存内计算SOC芯片WTM2101,已商用至智能可穿戴设备中。这些产品的推出标志着存内计算产业化初见成果,越来越多的存内计算产品开始落地。
随着标准化进程的加速和技术的不断成熟,存内计算芯片有望在未来大放异彩。这一技术的突破将不仅推动半导体产业的发展,还将为AI时代的计算需求提供强有力的支持。
来源:ITBear科技资讯