prefix="og: https://ogp.me/ns#"> 英特尔杀入大模型推理市场:GPU D系列最高配480GB显存,专为万亿参数推理而生|AI自学笔记

英特尔杀入大模型推理市场:GPU D系列最高配480GB显存,专为万亿参数推理而生

10月19日,在开放计算项目(OCP)全球峰会上,英特尔正式发布面向AI推理领域的全新GPU D系列(代号Crescent Island,官方产品页标注为D270)。与传统聚焦游戏渲染的GPU不同,该系列加速卡专为解决长上下文处理和多路并发推理而设计,标志着英特尔在AI推理赛道上的又一次强力发力。

480GB显存:单卡运行3000亿参数

海量显存是D系列最亮眼的指标:最高支持480GB LPDDR5X显存。官方数据显示,单卡即可承载高达3000亿参数的模型,而八卡互联系统更可流畅运行超1万亿参数的超大模型(注:英特尔原厂公版PCIe卡标配为160GB显存,480GB版本为开放给ODM合作伙伴的定制上限)。

英特尔此次在数据中心级GPU上选用LPDDR5X而非传统HBM,核心考量在于极高的能效比与超大容量。将高达480GB的容量直接板载于加速卡上,能够让大型模型的权重参数和推理过程中的上下文数据尽量驻留在单卡内存中,极大减少跨卡拆分的网络通信开销。

Xe3P架构:1.5TB/s带宽、1.3PFLOPS算力

计算与能效方面,D系列基于全新Xe3P架构,显存带宽达1.5TB/s,在FP8精度下可输出1.3PFLOPS的算力,同时整卡功耗上限控制在350W。该系列采用标准PCIe形态与风冷散热设计,现有数据中心无需昂贵的液冷改造即可部署。目前已进入客户送样阶段,公开售价及正式上市时间尚未公布。