信通院词元监测报告:TPS 78.23,均价涨至 13.46 元

一句话结论:10 月 23 日发布的中国信通院《大模型词元服务性能监测报告 2026 年》显示,国内模型服务均价从 6.8 元涨到 13.46 元,接近翻倍,同时 8 月国内平均 TPS 达到 78.23 个每秒,价格战的休战期正式到来。

过去两年大模型 API 价格一路下探,几乎所有接入方都在等下一轮降价。现在这轮等待结束了,但结束的形态和很多人预期的不一样。价格掉头回升,走完了下探这一程。

这份报告由中国信息通信研究院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室与中国人工智能产业发展联盟联合发布,基于 2026 年 1 至 8 月的持续监测。监测覆盖调用成功率、吞吐速度、首词时延、服务稳定性、价格与上下文窗口六个维度,同时对比原厂官方平台,以及 DeepSeek、Qwen、GLM、Kimi 四款开源模型在第三方平台上的表现差异。

半年烧掉 500 万亿词元

先看规模。2026 年 6 月,国内词元日均消耗量约 500 万亿,是 2025 年 12 月的近 4 倍。这个增长速度放在整个云服务史上都算快的,它意味着模型调用已经从尝鲜阶段的试验流量,进入了应用层每天真实跑着的生产流量。

报告的发布方之一是人工智能大模型及软硬件评测工业和信息化部重点实验室,这个定位背后是一个现实问题。词元是模型计费和处理文本的基本单位,越来越多的 MaaS 平台通过公有云 API 直接出售词元服务,但用户对词元服务的性能缺乏直观判断依据,选型困难。

换句话说,这份报告填的是一个空白。模型厂商自己公布的跑分是自家最优配置下的数字,而用户实际调的是第三方平台上的接口,中间那层差异此前没人系统量化过。

吞吐量翻倍,仍差国外四成

吞吐量指标用的是 TPS,即每秒能输出的词元数。8 月份国内各模型平均 TPS 达到 78.23 个每秒,相比 2025 年均值 38.25 翻了一倍。同期国外典型模型 TPS 均值为 112.82 个每秒,同样是 2025 年 12 月 51.35 的两倍多,整体仍然高于国内。

从报告披露的月度曲线看,国内平均 TPS 在 2026 年 2 月到 8 月之间持续抬升,8 月的 78.23 是这条曲线的顶点。国外同期的爬升幅度更大,年底前后的差距始终保持在四成左右。

首词时延在上升,报告归因于规模增长

首词时延 TTFT 指的是从发出请求到吐出第一个词元的等待时间,这个数字在 2026 年不降反升。国内各模型平均 TTFT 8 月达到 1.26 秒,2025 年平均值是 0.78 秒。国外典型模型 8 月平均 2.08 秒,比 4 月的 1.04 秒同样明显增加。

报告对此给了明确解释。时延上升伴随着模型参数量增加、上下文长度增加、调用量增加这多种因素同步产生,并非单纯的性能退化信号。这个解释站得住脚,模型做得更多事,吐第一个字之前的准备工作自然更久。

对使用者来说这个指标的实际含义是,第一个字的等待时间变长了,但整段输出的速度未必变慢。报告里给出的对比数据也印证了这一点,8 月 TPS 高达 78.23 的同时 TTFT 升到 1.26 秒。

价格拐点,均价接近翻倍

最有冲击力的数字在这里。国内 2025 年下半年归一化均价为 6.8 元,2026 年以来升到 13.46 元,涨幅接近 1 倍。同期国外发布的典型模型平均归一化价格约 117.8 元,仍显著高于国内。

报告把 2026 年定义为价格从「大战」走向「能力跃迁」的一年。这个措辞背后是产业逻辑的转变,当模型能力出现明显代差时,厂商不再需要用价格战去挤掉对手,可以直接为能力溢价。价格回升的驱动力并非集体涨价行为,定价策略已从抢份额转向卖能力。

把均价曲线按时间铺开,能看到国内大模型发布节点上的定价轨迹。DeepSeek 在 2024 年 3 月和 8 月两次调价,Qwen 在 2025 年 8 月到 9 月调价,GLM 和 Kimi 在 2026 年上半年到 8 月密集更新。价格曲线在 2025 年下半年触底后掉头向上。

对采购方来说,这组数字把选型逻辑整个换了一遍。2024 年到 2025 年的默认假设是找最便宜的那家,现在均价已经回升接近一倍,按低价签约的收益被大幅压缩,多花的钱得换回来等值的能力提升。

上下文走向百万级

被监测模型中,上下文长度达到 1M 的模型占比 47.8%,200K 及以上的合计达 95.7%,相比 2025 年底提高超过 76 个百分点,低于 200K 的模型占比持续减少。

这个结构变化和价格回升是同一件事的两面。上下文窗口从 32K、64K 一路推到 200K 乃至 1M,模型要在更长的上下文里保持推理一致,成本必然上升。上下文长度和参数量增加这两个因素,报告里被列为 TTFT 上升的成因。

开源模型的追赶与平台间的分化

开源模型的表现提升明显。5 月份更新的 4 款开源模型新版本被纳入监测,TPS 持续提升,TTFT 时延不断压缩。以 8 月份的数据看,DeepSeek-V4-Pro 的 TPS 已达到 DeepSeek-V3.2 的 2 倍。

换代初期的时延有个阶段性上升的规律。5 月份主要模型完成换代升级后,TTFT 普遍出现阶段性上升,随着推理优化措施落地,时延指标逐步回落至换代前水平。这个观察对使用者有用,意味着刚发布的新版本在第三方平台上表现可能反而更差,等推理侧优化跟上之后才会好转。

报告里最实用的一条发现是平台间差异。同一模型在不同平台上的 TPS、TTFT、调用成功率表现不一,部分第三方平台性能明显优于官方平台提供的模型服务,同一模型在不同平台间的 TPS 差距最大可接近一倍。报告给出的原因是各平台对推理加速、优化策略与成本控制的处理不同。

被纳入横向对比的平台包括 PPIO、百度千帆、硅基流动、阿里百炼、深度求索、腾讯 TokenHub、火山方舟、月之暗面与智谱这几家。

六个维度的完整对照

把报告的核心数据整理成一张表,六个维度的变化方向比单个数字更有信息量。

维度 2025 年水平 2026 年 8 月水平 方向
日均词元消耗量 约 125 万亿(2025 年 12 月) 约 500 万亿(6 月) 增至近 4 倍
国内平均 TPS 38.25 个/秒 78.23 个/秒 翻倍
国外平均 TPS 51.35 个/秒(2025 年 12 月) 112.82 个/秒 提升超一倍
国内平均 TTFT 0.78 秒 1.26 秒 上升
国外平均 TTFT 1.04 秒(4 月) 2.08 秒 上升
国内归一化均价 6.8 元(2025 年下半年) 13.46 元 涨幅接近 1 倍
国外归一化均价 — 约 117.8 元 仍约为国内 9 倍
上下文 1M 占比 不足(2025 年底) 47.8% 成主流
上下文 200K 及以上占比 约 19% 95.7% 提高超 76 个百分点
DeepSeek-V4-Pro TPS — 为 DeepSeek-V3.2 的 2 倍 开源追赶
同模型跨平台 TPS 差距 — 最大接近 1 倍 平台分化

表里有一行值得单独拎出来。同模型跨平台 TPS 差距最大接近一倍,这个数字意味着用户如果只看模型名做决策,选型结果可能差出一倍性能,而这一倍完全来自平台侧的推理优化与资源调度,跟模型本身无关。

常见问题

国内模型均价涨到 13.46 元,是不是意味着 API 变贵了?

整体趋势确实在涨,但并非所有模型都涨。这个数字是归一化均价,反映的是发布时定价的中枢水平。具体到单个模型和单个平台,实际成交价还取决于上下文长度、缓存命中率和批量折扣等因素,选型时仍需按自己的调用形态测算。

TTFT 从 0.78 秒涨到 1.26 秒,是不是模型变慢了?

不能这样理解。同期 TPS 从 38.25 涨到 78.23,翻了一倍。TTFT 上升源于参数量、上下文长度与调用量同步增加,报告明确说明这一现象并非单纯的性能退化信号。真正该关注的是体感,等待首个字的时长增加和整体输出速度提升往往同时发生。

同一个模型在不同平台跑出接近一倍的差距,选型该怎么处理?

实践路径是先确定模型候选池,再在同一任务上跨平台实测。第三方平台在推理加速、缓存策略和成本控制上的工程投入差异很大,部分平台确实优于官方平台。按模型名直接下单,很可能买到的是平台侧调度的差距而非模型差距。

小结

这份报告最有价值的地方在于它给了一个统一的坐标。吞吐量、时延、价格、上下文四条线拉在一起看,会发现 2026 年的模型服务市场进入了一个新阶段。能力往上走,代价也往上走,两者同步。

对产业观察者来说,这份报告印证了年初的一些判断。推理侧优化的价值在这个阶段被放大,商汤大装置日均 6 万亿 Token、PD 分离把异构集群吞吐拉高 5 倍 这类基础设施升级,直接对应着 TPS 与时延这两条曲线。而 llm-d 1.0 在 17000 节点上把吞吐提升 2.9 倍、首 token 延迟砍掉 85% 这类分布式推理框架的推进,解释的正是第三方平台能跑出优于官方平台的原因。

对采购方来说,成本模型需要重算。价格翻倍意味着上一轮按低价做的调用量预算已经失真,MiniMax M3.1 Flash 一元每百万 Token 这类低价位选项的相对优势确实在收窄,DeepSeek V4 Pro 退役后路由到 V4.1 Flash、价格下降 40% 这类换代降价仍然是值得追踪的信号,开源侧的价格下探空间还没有关闭。

而在端侧和轻量化方向,Ternary Bonsai 2 在手机上跑到每秒 120 个词元 代表了另一条绕开 API 定价的路径。API 价格回升与端侧推理能力提升这两件事在同时发生,这也许才是这轮报告里更值得记下的判断。