英伟达于10月15日正式发布 Nemotron 3.5 Super VL——1200亿参数(总参)/120亿激活参数开放权重多模态模型,专为企业常驻 Agent 设计。相比上代评分翻倍(Intelligence Index 从13分升至26分),任务成本从 1.64 美元降至 0.25 美元,降幅约85%。同期发布的还有压缩版 Bolt 74B,可在 24GB 显存环境下本地运行,覆盖从大型服务器到边缘设备的全场景 Agent 部署需求。
架构与性能:Mamba2+MoE+MTP混合,吞吐量5倍领先
Super VL 采用 Mamba-2–Transformer 混合 MoE 架构,多令牌预测(MTP)头加持,每次只激活12B/120B参数,降低单次调用算力成本;结合英伟达开源的 LiLiCorr 投机解码,在 DGX Spark 上实测最高 625 output tokens/秒。Artificial Analysis 独立评测给出 Intelligence Index 26分,是上代 13分的两倍;在单个 DGX Spark 或 H200 上,吞吐量是同尺寸开源模型的 5 倍。该模型支持文本、图像、视频输入,上下文窗口长达100万Token,在 CharXiv 图表推理基准得分 80.8%。
Bolt 74B:24GB显存可本地运行,E4B 10月23日发布
Bolt 74B-A9B 以原生 2-bit 压缩从 Super VL 精简而来,74B 总参、9B 激活,可塞进 24GB 显存,在 RTX Spark 笔记本和 DGX Spark 工作站本地运行,已支持 llama.cpp、Ollama、LM Studio、vLLM。Bolt E4B(4GB)将于 10 月 23 日发布,面向语音助手和端侧设备。Bolt 在 PinchBench 评测中位列同尺寸开源模型第一,BrowseComp 排名第二。
定价:商业可用许可证,API 0.15美元输入/0.50美元输出
Nemotron 3.5 Super VL 采用 OpenMDW 1.1 许可证,允许商业使用及二次微调。在 Together AI 上,API 价格为每百万输入 0.15 美元、输出 0.50 美元、缓存读取 0.02 美元。企业客户包括 Scale AI(后训练信贷处理,推理成本降至原来的1/40)、Ramp(收据图像转 JSON)、CrowdStrike(威胁情报精度提升41%)、Atlassian、Salesforce、Perplexity 等。Hugging Face 已上线权重下载。
延伸阅读
- Kimi-Audio 开源音频大模型解析:LibriSpeech 词错误率 1.28%,三段式架构统一语音任务4 周前
- 谷歌量子突破:魔态培育使 Willow 错误率降 40 倍4 天前
- 英伟达中国AI芯片份额跌至34%:IDC报告全解读6 天前
- AI安全哲学的正面碰撞:黄仁勋零容忍 vs 奥特曼风险管理3 天前
继续读
同一批更新里这几篇值得一看:
- AI安全哲学的正面碰撞:黄仁勋零容忍 vs 奥特曼风险管理2026-10-16
- 谷歌量子突破:魔态培育使 Willow 错误率降 40 倍2026-10-16
- 英伟达 Nemotron 3.5 Super VL:1200 亿参数开放权重2026-10-16
