prefix="og: https://ogp.me/ns#"> SK海力士3D FeNAND:铁电存内计算A-CiM,吞吐提升10-20倍能效涨4000倍 | AI自学笔记

SK海力士3D FeNAND:铁电存内计算,吞吐提升10-20倍

一句话结论:SK海力士将铁电材料引入3D NAND结构,推出3D FeNAND模拟存内计算方案,在相同芯片面积下实现较传统3D NAND阵列最高20倍吞吐量与最高5000倍能效提升,为低功耗边缘AI推理场景开辟新的技术路径。

从存储到计算:NAND的自我革命

传统计算架构遵循冯·诺依曼定律:数据必须在存储与计算单元之间反复迁移。随着大语言模型参数量级从十亿迈向万亿,权重数据体积呈指数膨胀——单次推理可能涉及数十GB的参数读取,而每次数据搬运都会消耗大量能量并引入延迟。这条「内存墙」已成为AI基础设施扩展的核心瓶颈。

存内计算(Compute-in-Memory,CiM)的思路是让存储阵列本身具备计算能力:在数据驻留的位置就地完成矩阵向量乘法等核心运算,从根本上消除数据迁移开销。SK海力士在这条路上迈出了重要一步——将铁电材料引入3D NAND堆叠工艺,提出3D FeNAND架构,将存储密度、能效与AI计算需求在同一种器件内融合。

铁电材料为何能改变游戏规则

传统3D NAND采用电荷俘获氮化物(Charge Trap Nitride,CTN)结构,通过在氮化物层中捕获或释放电子来控制存储单元的电流状态。这种结构在密度方面有优势,但精确控制模拟计算所需的多电流电平能力有限——而模拟域的乘积累加运算(MAC)恰恰需要精确区分多个电平来表达权重值。

3D FeNAND改用铁电材料的极化状态存储数据并控制电流。铁电材料的核心特性是:即使外部电场撤除,内部极化状态仍能保持稳定。通过改变极化方向即可存储数据并控制存储单元的电流状态。铁电特性使FeNAND在较低功耗下精确控制多个电流状态,相比传统3D CTN NAND更适合模拟域MAC运算。

然而,仅改变单元结构还不够。即使细胞能可靠区分不同电流水平,如果字线(word line)选择和控制引入的功耗过大,芯片整体性能仍会受限。同理,即使字线负担减轻,如果页面(page)利用方式与AI模型的数据规模和计算流程不对齐,也会产生不必要的切换和延迟。

三重协同优化:cell、interconnect与page

SK海力士团队的解决方案是对三个维度进行协同优化,共同将3D FeNAND的潜力转化为实际的A-CiM效率提升。

低电阻字线金属

使用低电阻率金属替代传统材料制作字线,直接减少电流通过时的IR压降。实测提升吞吐量最高16%,能效改善最高3%。

空气间隙降低寄生电容

在字线之间引入空气间隙(air gap)结构,将字线间寄生电容降低约60%。这一改动使吞吐量提升1.2倍,能效提升2倍。

字线电阻-电容联合优化

对字线的电阻与电容特性进行联合优化设计,吞吐量最高提升1.4倍,能效最高提升2.2倍。

页内流水线(In-Page Pipeline,IPP)

IPP允许在存储页面内实现计算与读取操作的流水线化,能效翻倍,吞吐量提升9倍,是单项优化中幅度最大的改进。

16KB页面拆分为4个4KB子页面

将传统16KB大页面拆分为四个4KB子页面,使每次读写粒度更匹配AI模型层间数据的规模,减少不必要的数据加载。实测能效提升1.2倍,吞吐量提升1.7倍。

实测数据:相同面积下的量级跨越

综合以上所有优化手段,3D FeNAND A-CiM在300mm晶圆尺度上实现了稳定的数据保持特性,并在每个存储单元内演示了四级(4-level)低电流区域操作。与传统3D NAND阵列相比,结果令人瞩目:

优化维度 吞吐量提升 能效提升
综合(全部优化叠加) 10–20倍 4000–5000倍
低电阻字线金属 最高16% 最高3%
空气间隙(寄生电容-60%) 1.2倍 2倍
字线电阻-电容联合优化 最高1.4倍 最高2.2倍
页内流水线(IPP) 9倍 2倍(能效翻倍)
16KB→4×4KB子页面拆分 1.7倍 1.2倍

需要说明的是,这一对比基准是「传统3D NAND阵列上的A-CiM实现」,而非与纯数字逻辑AI加速器的对比。4000-5000倍的能效数字反映的是铁电3D NAND相对于已广泛研究的2D非易失性存储器阵列的高密度优势,以及存内计算架构相对于传统数据迁移架构的固有优势。

竞争格局:三星、美光快步跟进

存内计算并非SK海力士一家独有的赛道。三星已推出基于ReRAM的存内计算方案,美光也在探索类似技术路径。SK海力士率先将铁电材料与3D NAND堆叠工艺结合,理论上可实现更高存储密度与计算融合。SK海力士表示,该技术面向对功耗敏感的边缘AI推理场景,兼顾一定算力密度与低功耗需求——这一定位使其与HBM针对数据中心训练场景形成互补。

展望:从学术论文到商用产品还有多远

SK海力士已在300mm晶圆上完成关键特性验证,展示了多级单元操作的稳定性和数据保持能力。但从IEEE IEDM论文到商业化量产,仍需解决制造工艺一致性、良率控制、成本定价等问题。SK海力士尚未给出该技术的量产时间表。

不过,这一研究路线揭示的方向已足够清晰:在AI算力需求爆发式增长、而晶体管微缩边际收益递减的背景下,「让存储本身成为计算单元」可能是突破内存墙的下一条主线。3D FeNAND A-CiM不仅是SK海力士存储器战略的重要里程碑,也是整个半导体行业在AI时代寻找新增长曲线的缩影。

常见问题

3D FeNAND和普通3D NAND有什么区别?

核心差异在于存储介质:传统3D NAND使用电荷俘获氮化物(CTN)结构存储数据,通过捕获/释放电子控制电流;3D FeNAND改用铁电材料的极化状态存储数据。铁电材料的优势在于即使断电也能保持极化方向(是非易失性的),且极化状态切换所需能量更低,更适合在模拟域精确控制多级电流,以表达AI权重数据。

为什么能效提升4000-5000倍这个数字如此惊人?

存内计算的根本优势是消除数据迁移开销。传统架构中每次AI推理都涉及海量权重数据从存储到计算单元的反复搬运,这部分能耗占推理总能耗的相当比例。A-CiM在存储阵列内部完成乘积累加运算,数据无需离开存储阵列,大幅减少搬运距离和次数。铁电材料的低功耗极化特性进一步放大了这一优势,使得能效提升达到四个数量级。

这项技术什么时候能用到?

SK海力士目前已完成300mm晶圆级别的原理验证,但尚未公布量产时间表。从研究论文到商业化通常需要数年时间,中间还涉及良率提升和工艺成熟度验证。该技术主要面向边缘AI推理场景,对能效比带宽更敏感,与HBM(数据中心训练)形成错位竞争。