10 月 23 日，中国信息通信研究院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室与中国人工智能产业发展联盟联合发布《大模型词元服务性能监测报告 2026 年》。报告基于 2026 年 1 至 8 月的监测数据，覆盖调用成功率、吞吐速度、首词时延、稳定性、价格与上下文窗口等维度，并对 DeepSeek、Qwen、GLM、Kimi 四款开源模型在第三方平台上的表现做了横向对比。
报告给出了一组很少被公开的产业侧数字。2026 年 6 月国内词元日均消耗量约 500 万亿，是 2025 年 12 月的近 4 倍。
吞吐量翻倍但仍落后于国外
8 月份国内各模型平均每秒输出词元数 TPS 达到 78.23，相比 2025 年均值 38.25 翻了一倍，但同期国外典型模型 TPS 均值为 112.82，高于国内约四成。时延方面，国内各模型平均首词时延 TTFT 8 月份达到 1.26 秒，较 2025 年平均值 0.78 秒明显增加；国外典型模型 8 月份 TTFT 平均值 2.08 秒，同样高于 4 月份的 1.04 秒。
报告认为，经过过去两年价格战后，2026 年国内外模型服务价格明显上涨。国内 2025 年下半年归一化均价为 6.8 元，今年以来均价升到 13.46 元，涨幅接近 1 倍；同期国外发布的典型模型平均归一价格约为 117.8 元。
上下文走向百万级
被监测模型中上下文长度达到 1M 的占比 47.8%，200K 及以上合计达 95.7%，相比 2025 年底提高超过 76 个百分点，低于 200K 的模型占比持续减少。
开源模型的表现提升明显。5 月份更新的 4 款开源模型新版本被纳入监测，8 月份 DeepSeek-V4-Pro 的 TPS 已达到 DeepSeek-V3.2 的 2 倍。报告同时指出同一模型在不同平台上的表现差异明显，部分第三方平台优于官方平台，同一模型在不同平台间 TPS 差距最大可接近一倍，差异主要来自各平台对推理加速、优化策略与成本控制的处理不同。
这组数据把过去一年大模型市场的三个变化摆到了一起，吞吐和上下文在快速扩张，价格在两轮价格战后首次明显回升，开源模型的迭代速度正在缩小与原厂版本的差距。对采购方来说最实用的部分在最后一条，同一个模型在不同平台上跑出接近一倍的性能差，选型本身已经是门学问。
延伸阅读
- 讯飞发布 Spark-ASR-2.0：9 月 24 日起上线输入法，同步开放 API4 周前
- DeepSeek 开源推理框架 DeepInfer：GPU 占用减 35%、成本降 28%3 天前
- 贝莱德谈 AI 基建债务：1.3 万亿美元资管、280 家公司已在用 AI2 小时前
- Utopai X 空降全球视频模型榜单第二：盲评机制下的 1150 分意味着什么2 周前
继续读
同一批更新里这几篇值得一看：
- 谷歌芬兰清林 25 万棵树建数据中心，监管责令 10 月 23 日停工2026-10-24
- 网信委印发国家信息化十五五规划：适时启动 6G 商用2026-10-24
- OpenAI 10 月 1 日恢复训练：断网沙箱挡不住缓存计时侧信道2026-10-24