prefix="og: https://ogp.me/ns#"> 英伟达 Nemotron 3.5 Super VL 发布:1200 亿参数开放权重,智能体任务吞吐量提升 5 倍|AI自学笔记

英伟达 Nemotron 3.5 Super VL:1200 亿参数开放权重

2026 年 10 月 15 日,英伟达正式发布开放多模态模型 Nemotron 3.5 Super VL。这是一款专为长时间运行、多步骤执行的企业级 AI 智能体设计的 1200 亿参数混合专家(MoE)模型,总参数 1200 亿,激活参数 120 亿,单 GPU 智能体任务吞吐量最高达同规模开放模型的 5 倍。

一句话结论

Nemotron 3.5 Super VL 将推理、指令遵循、工具调用与文本、图像、文档、视频理解整合在单一开放权重模型中,以 120B 参数实现接近前沿封闭模型的智能体能力,同时支持企业在自有基础设施上本地部署,数据不出防火墙——这对金融、医疗、法律等强合规行业尤为重要。

架构:从 1200 亿参数到「极速」

Super VL 采用混合专家(MoE)架构,总参数量 1200 亿,每次推理激活 120 亿参数。英伟达通过多教师在线策略蒸馏(Multi-Teacher On-Policy Distillation),将 Nemotron 3 Ultra 的编程能力蒸馏进 Super VL,配合 SkewReverse 损失函数提升代码准确性。在预训练和继续预训练阶段,模型共消耗约 26 万亿个令牌,随后通过约 380 万个样本的后训练和跨越数十个环境的强化学习进一步优化。继续预训练阶段额外增加了 100 亿个印度语令牌。

在基准测试中,Super VL 的 CharXiv 图表推理得分为 80.8%(结合 Python 代码解释后升至 84%),Hermes Bench 为 63.44%,LangChain 行为评估为 87.05%,均高于前代 Nemotron 3 Ultra 的 56.33% 和 84.3%。该模型在 OCRBench v2 榜单上亦属开放模型前列。英伟达表示,EXO Labs 的独立评估将 Super VL 放在了准确率与任务完成时间的帕累托前沿上。

推理优化方面,英伟达在 DGX Spark 上部署了名为 LiLiCorr 的开放猜测解码(speculative decoding)技术,声称令牌生成速度提升最高 2.3 倍。多令牌预测机制让模型在单次前向传播中提出多个令牌供验证,上下文复用则同时保留注意力缓存和 Mamba 循环状态,减少重复智能体调用的计算开销。NVFP4 量化方案在 Blackwell 架构上以 4 位权重和激活实现量化感知蒸馏,弥补量化带来的精度损失。

开放权重与企业定制生态

Super VL 提供基础版、后训练版和 NVFP4 量化版三种检查点,开发者可通过 NVIDIA NeMo 工具链结合自有数据、工具、政策和工作流程进行后训练,支持监督微调、低秩适配(LoRA)和强化学习。英伟达同步在 Hugging Face 发布数据集,涵盖智能体工具调用、金融、指令遵循、长上下文、安全、公平性和视觉-语言理解等多个领域。与 IIT Madras 和 AI4Bharat 合作还发布了一个包含 22 种印度语言、约 2.8 万亿令牌的数据集。

目前已有多家企业基于 Super VL 进行定制:Scale AI 为 Skydance 定制供应商信用处理智能体,推理成本降低 97.5%、延迟降低 80%;Ramp 将收据图像转换为结构化 JSON,吞吐量提升 50%、延迟降低 90%;AI21 与 Alice 合作定制网络安全攻击韧性模型,准确率提升 40%;Mercor 在 APEX-SWE 编程基准上对代码智能体进行后训练;Atlassian 将其集成到 Jira 和 Confluence 的智能体搜索中;CrowdStrike 定制用于企业安全蓝队演练;Dassault Systèmes 为工程设计与仿真提供动力;Lila Sciences 将其用于科学发现与搜索;R1 用于医疗索赔分析与收入周期管理。

Bolt 边缘系列:本地智能体覆盖最后 4GB

与 Super VL 同批发布的还有 Nemotron 3.5 Bolt 74B-A9B(24GB)和 Bolt E4B(4GB)。前者采用原生 2 位量化,可在本地上下文中 RTX 或 DGX Spark 上运行日常智能体任务,在 PinchBench 开放模型中排名第一、BrowseComp 排名第二,可在运行其他应用的同时处理智能体任务。后者面向 GeForce RTX、Jetson 和 RTX/DGX Spark 的物理和对话智能体,将于 10 月 23 日上市,可驱动可穿戴设备、家用设备、服务点、车载助手、交互式角色和智能界面。

三款新模型加上已有的 Lightning(高吞吐)和 Ultra(复杂推理),Nemotron 系列现已覆盖从大型企业服务器到边缘设备和个人硬件的全谱系智能体部署场景。

基准测试横向对比

模型 总参数量 激活参数 CharXiv Hermes Bench LangChain 部署方式
Nemotron 3.5 Super VL 1200 亿 120 亿 80.8% 63.44% 87.05% 开放权重,企业数据中心
Nemotron 3 Ultra ~2000 亿 – – 56.33% 84.3% 封闭,高端推理
Nemotron 3.5 Bolt 74B 740 亿 90 亿 – – – 本地 24GB,边缘
Nemotron 3 Lightning – – – – – 高吞吐,云端

开放生态背后的 Nemotron Coalition

Nemotron 3.5 Super VL 由英伟达与 Nemotron Coalition 联合构建,这是一个由模型构建商和 AI 实验室组成的联盟,旨在推进开放前沿级模型。Perplexity 提供的数据支撑了模型的中期训练,Prime Intellect 提供环境用于构建教师模型。开放数据集、训练方案、强化学习环境和配套工具链均已公开发布,降低了企业定制智能体的门槛。任何想在英伟达基础设施上运行智能体的组织,现在都有了一张从大模型到边缘模型的完整开放路线图,无需在能力与部署灵活性之间二选一。

结语:开放智能体时代的算力分发

Nemotron 3.5 Super VL 的发布标志着英伟达将开放模型策略从训练层扩展到部署层。开放权重意味着企业可以在本地运行完整智能体工作流,数据不出防火墙,这对金融、医疗、法律等强合规行业尤为重要。配合 Bolt 系列覆盖边缘场景,Nemotron 家族正在构建从数据中心到个人桌面全覆盖的开放智能体生态——在 AI 智能体竞争的主战场上,算力分发方式的竞争与模型能力本身的竞争同样关键,也将直接影响英伟达 GPU 在企业 AI 市场的份额走向——这对强合规行业尤为关键。