一句结论:SK海力士高管在SEDEX 2026上给出迄今最激进的AI基础设施增长预期——到2030年规模扩大20倍,并同步预告HBF高带宽闪存与3D堆叠DRAM两条下一代技术路线,以解决KV Cache引发的存储墙新瓶颈。
一、AI推理市场三维同步扩张
SK海力士开发总管Ahn Hyun(安铉)10月14日在首尔COEX会展中心举行的第28届韩国半导体大展(SEDEX 2026)上发表主旨演讲,主题为”AI时代存储技术的演进方向”。他指出,当前AI推理市场正同时在三个维度快速扩张:
- 任务复杂度不断提升:大模型从简单问答演进至多步推理、多智能体协作、Agent工作流,单次推理算力消耗成倍上涨。以GPT-6 Astra、Claude Opus 5.5为代表的新一代模型,单次复杂推理消耗的Token数已是早期模型的10倍以上。
- 上下文长度激增:百万token级上下文窗口已成为主流旗舰模型标配,Gemini 4 Argon支持100万Token输出,Kimi K3支持262K上下文。KV Cache所需存储容量随序列长度的平方关系增长,上下文翻倍意味着KV Cache显存需求增至4倍。
- 推理请求量井喷:ChatGPT、Claude、Gemini等应用日均调用量已达数十亿次级别,企业级API调用量增速更超过消费端。基础设施规模必须同步扩张,才能满足持续增长的并发推理需求。
三个因素相互交织,推动AI算力基础设施需求迅猛增长,同时也对存储子系统提出了前所未有的挑战。
二、KV Cache成新型”存储墙”瓶颈
AI推理过程中,用于保存并复用前序token信息的KV Cache容量持续膨胀,迫使系统将数据分摊存储于HBM、DRAM及SSD等不同介质。
传统”存储墙”(Memory Wall)瓶颈指处理器与内存之间的带宽差距;而Ahn Hyun指出,在AI推理时代,新的瓶颈已演变为不同存储层级之间的数据迁移本身——KV Cache在多层级之间的频繁换入换出,正在制约推理性能提升并推高系统能耗。
具体而言:当KV Cache规模超过GPU HBM容量时,冷数据必须卸载至DRAM;DRAM也不够时,则需进一步下沉至SSD。每次跨层级数据迁移都带来额外延迟和功耗。SK海力士测算,在超长上下文场景下,数据迁移能耗可占推理总能耗的30%以上,成为AI系统新的效率瓶颈。
三、SK海力士下一代存储技术路线图
SK海力士在持续优化现有HBM产品的同时,正全力推进两条下一代存储技术路线,旨在构建跨越多个存储层级的协同方案,而非单纯提升单一芯片性能:
3D堆叠DRAM
在GPU、NPU等逻辑芯片之上直接堆叠DRAM,在大幅跃升传输性能的同时显著降低芯片间互联能耗。相比传统封装方式,3D堆叠可将逻辑芯片与DRAM之间的带宽提升一个数量级,同时减少约40%的互连功耗。这一方案与台积电CoWoS/SoIC封装技术高度协同,是HBM4时代的关键演进方向。
高带宽闪存HBF
HBF(High Bandwidth Flash)将HBM中成熟的硅通孔(TSV)立体堆叠与高速I/O接口技术导入NAND闪存,在HBM与DRAM之间开辟全新的存储层级。SK海力士披露的目标是:将HBF带宽做到同代HBM的约50%,同时实现约10倍的容量扩容。这意味着在成本敏感的推理场景,可以用HBF承接KV Cache中的冷数据,大幅降低系统整体内存成本,同时避免HBM容量瓶颈。
定制HBM与生态合作
SK海力士同时推进Custom HBM战略,在Base Die上集成内存控制器与客户定制逻辑,使存储从”数据容器”演进为”功能与性能优化的协同计算组件”。这种定制化设计需要与英伟达、AMD、谷歌等AI系统厂商深度协同,定制化程度将成为下一代HBM竞争的核心差异点。
四、市场格局:HBM三角竞争进入新阶段
| 厂商 | 主要产品 | 下一代方向 | 差异化优势 |
|---|---|---|---|
| SK海力士 | HBM3E(12层) | HBF、3D堆叠DRAM、Custom HBM | AI推理存储全栈布局,与英伟达H100/H200深度绑定 |
| 三星电子 | HBM3E(12层) | CXL 3.0、定制HBM | 自有晶圆厂+存储+逻辑垂直整合 |
| 美光 | HBM3E(8层) | HBM4定制、CXL | 成本优化路线,低功耗方案 |
2026年全球HBM市场预计突破400亿美元,SK海力士凭借与英伟达的长期合作占据市场主导地位。随着AI推理场景对存储容量的需求超过对单纯带宽的需求,HBF开辟的”新存储层级”有望在2028—2030年成为新的竞争主战场。谁能率先实现HBF量产,谁就将在推理时代存储战争中占据先机。
FAQ:关于SK海力士AI基础设施20倍增长的三个关键问题
问:为什么SK海力士预测的是”性能规模”而不是”市场规模”?
答:Ahn Hyun强调,”性能规模”指的是AI基础设施完成推理任务的总能力(算力×存储×带宽的综合指标),而非单纯的销售额或出货量。这与SK海力士作为存储厂商的角色高度吻合——存储容量与带宽是性能规模的两大核心支撑,提升这两项即可直接扩大性能规模。这一指标更能反映AI基础设施真实的算力供给能力。
问:HBF与传统HBM、DRAM相比,有什么具体优势?
答:HBF的设计目标不是替代HBM,而是在HBM与DRAM之间建立一个新层级。其带宽约为同代HBM的50%(仍远高于DRAM),但容量约为HBM的10倍。对于KV Cache中访问频率较低的”温数据”和”冷数据”,HBF可以大幅降低系统内存成本,同时避免全量数据堆在HBM上造成的容量瓶颈。这一特性对于需要处理长上下文的企业推理场景尤为关键。
问:SK海力士能否在2030年前实现这一技术路线?
答:SK海力士已在HBM3E上验证了TSV堆叠工艺的可行性,3D堆叠DRAM的技术路径与现有HBM产线高度兼容,风险相对可控。但HBF需要全新的NAND+TSV混合工艺,需要在NAND存储单元上引入高速TSV互联,这在全球范围内尚无先例。业内普遍预期HBF将在2027—2028年进入初步量产,2029年后形成规模化部署。
相关阅读
- DeepSeek V4.1 Flash发布:552B MoE、KV缓存缩437倍、V4 Pro退役 — V4.1 Flash首次将KV缓存压缩437倍写入官方发布,与本文讨论的KV Cache瓶颈高度呼应。
- 苏姿丰10月8日飞首尔内幕:三星HBM4优先供应商落定 — AMD与三星HBM4供应商谈判内幕,反映HBM供应链竞争态势。
- 英伟达中国AI芯片份额跌至34%:IDC报告全解读 — IDC数据揭示中国AI芯片市场竞争格局,与存储需求变化相互映射。
小结
SK海力士在SEDEX 2026上的表态,不只是一家存储厂商的市场预测,而是整个AI基础设施演进路线的一次重要锚定。20倍增长背后,是任务复杂度、上下文长度、请求量三维因素的持续叠加;HBF与3D堆叠DRAM,则是SK海力士为应对”推理时代存储墙”给出的两条技术解法。AI算力的竞争,正在从芯片算力扩展到存储层级协同效率的新战场。
延伸阅读
- 英伟达中国AI芯片份额跌至34%:IDC报告全解读13 小时前
- 博通为OpenAI定制芯片项目融资超500亿美元:阿波罗黑石入局,甲骨文同步找钱6 天前
- Fractile融资6亿美元:估值半月涨6倍至65亿,Anthropic加持1 周前
- 苏姿丰下月亲赴首尔:三星争抢AMD HBM4优先供应商背后2 周前
继续读
同一批更新里这几篇值得一看:
- 英伟达中国AI芯片份额跌至34%:IDC报告全解读2026-10-14
- 微软Maia 300深度:7倍吞吐、40%能效,2027多吉瓦部署2026-10-13
- 亚马逊70亿美元洽购Decart:Anthropic曾报价60亿,英伟达在列2026-10-12
想快速查定义?对应的词条在这里:
- AI Agent词条 · AI 自学笔记
