Cohere Rerank 5：BRIGHT 82.2 分，token 省 35%

一句话结论：Cohere 在 10 月 21 日发布 Rerank 5 重排模型家族，Pro 档在 BRIGHT 推理型检索基准上拿到 82.2 分，比上代 Rerank 4 Pro 高 12.4 分；新增的 Context Focus 让一次重排调用直接返回文档内的相关片段，在搜索智能体实测中把每任务 token 压掉 35%，准确率反而从 46% 升到 58%。

重排（rerank）这一层过去常被当成检索链路里的调参环节。检索系统先召回一批候选文档，再由重排模型给每份文档打一个相关性分数，决定哪几份能进入大模型的上下文窗口。候选召回的召回率决定上限，重排模型则决定进入上下文的那一段到底是噪声还是证据。Cohere 在 10 月 21 日上线的 Rerank 5，把这条链路上的两个老问题一起动了：一个是分数怎么和实际有用程度对齐，另一个是长文档里到底哪几句话值得塞给大模型。

新家族分 Pro 与 Fast 两档。Pro 面向排序质量优先的场景，Fast 面向延迟和成本敏感的调用量。两者都不开源权重，通过 Cohere API、Model Vault、微软 Foundry、亚马逊 SageMaker 以及私有 VPC 或本地部署提供，North 平台用户可直接使用。API 定价 Pro 为每百万 token 0.05 美元，Fast 为 0.02 美元。

一、Rerank 5 在检索链路里的位置：不动索引，只动排序

Rerank 5 不要求重建索引。开发者只需在请求里改 model 参数，原有的关键词检索、向量检索或混合检索链路可以原样保留。这是重排模型相对「换一套检索方案」的最大工程优势：迁移成本基本落在一次参数改动和一轮线上回归上。

重排模型与向量检索的技术路径本身有差别。向量检索多走双塔结构，查询和文档各自编码成向量再比对，代价低；重排模型让查询和文档在打分时互相看得见对方，属于交叉编码，单次计算更贵，却能在字面不相似、需要理解意图的查询上判得更准。BRIGHT 这类基准考的就是后一种能力，这也是重排层值得单独放一次模型调用的原因。

框架侧的支持面也铺得比较全，LangChain、Haystack、Elasticsearch、Weaviate 都能直接接。Rerank 5 与 Cohere 自家最新的 Embed 5、Parse 5 构成同一代搜索模型三件套，嵌入、解析、重排分别对应检索链路上的三个环节。

二、基准成绩：BRIGHT 82.2 分，46 组数据集里 39 组第一

官方在 ViDoRe V3、nanoMTEB、BRIGHT、BEIR 四个公开基准上做评测，46 组复合数据集中 Rerank 5 Pro 拿下 39 组第一，43 组排进前二。评测方法用的是 Cohere 自研的 RCP-nDCG@10，针对传统 nDCG 在相关性标注覆盖不全时的缺陷做了修正。

差距最大的地方出现在需要推理的检索任务上。BRIGHT 考的是「文档和查询在字面上并不相似，必须理解问题含义才能判断相关」。Rerank 5 Pro 得 82.2 分，比 Voyage AI Rerank 3 高 5.8 分，比自家上代 Rerank 4 Pro 高 12.4 分，后者是四代基准中代际落差最大的一次。在另外三项基准上，Pro 领先最强外部竞品的幅度分别是 ViDoRe V3 的 1.6 分、BEIR 的 1.8 分、nanoMTEB 的 3.4 分。

在企业专业领域，Pro 的领先同样成立。金融与经济学方向上，官方在 ViDoRe Finance、FinQA、BRIGHT Economics 三类任务上均领先，在这一整块比 Voyage AI Rerank 3 高出 9.6 分，是其领先幅度最大的板块。医疗健康、科学研究、能源与可持续发展几个方向同样保持首位。

PDF 解析内容这条线值得单独说一句。企业文档搜索里很大一部分素材来自 PDF，官方用 Gemini 1.5 Flash 解析后构造了 47 组数据集，Pro 平均 89.9 分，Fast 88.5 分，Voyage AI Rerank 3 是 88.4 分，Rerank 4 Pro 是 88.3 分。这一项的分差比通用基准小得多，PDF 解析质量本身构成了一道天花板。

三、Context Focus：从「文档级」下沉到「片段级」

Context Focus 是 Rerank 5 引入的新能力，默认关闭。开启后，一次重排调用会同时返回文档级相关性分数，以及文档内部命中的文本片段及其起止偏移量。开发者可以自己设定阈值和返回片段数上限，再把筛出来的片段交给大模型。

它的经济性来自一组很直观的实验。官方在 30 组问答数据集上测试，逐步削减送入大模型的检索文本：砍掉一半检索文本，答案质量只损失 2 个百分点，保留 96%；砍掉四分之三，损失 7 个百分点，保留 87%。也就是说省 token 的代价曲线在中等阈值附近几乎持平。官方给出的空间上限是最高可换到 10 倍的上下文压缩，再往下压就需要用明显的质量损失来交换。

放进搜索智能体的整链路上看更清楚。检索从 BM25 起步，准确率 46%。接入 Rerank 5 Pro 后升到 49%。再打开 Context Focus，阈值取默认的 0.1，每任务 token 降 19%，准确率升到 57%；阈值提到 0.4，token 降 34%，准确率升到 58%。整套链路相比单用 BM25，token 少用 35%，准确率反而高 12 个百分点。

在六个深度搜索基准上（BrowseComp-Plus、MedBrowseComp、WebWalkerQA、SealQA、HERB、DRBench），token 下降 41%，准确率从 39% 升到 52%，每一项基准在两项指标上都是同时改善。官方在这一组测试里把检索起点固定为 BM25，重排 Pro 作用在前 100 条候选上，然后分别叠加 Context Focus 的 0.1 与 0.4 阈值，智能体本体是 glm-5-3-flash，搜索是它唯一的工具。

它的工作方式更像一个旋钮，区别于开关。阈值放低，召回的片段多、噪声多、token 省得少；阈值调高，片段少而准，token 省得多，但需要接受一定比例的证据遗漏。要不要往这个方向省，取决于业务对「宁可答不知道」的容忍度。

四、分数校准：0.7 分意味着 70% 概率这份文档有用

过去每个重排模型返回的分数含义都不一样，同一个 0.7 分在不同模型那里代表的概率完全不同，团队每换一次模型就得重调一遍阈值。Rerank 5 的分数被标定过：0.7 就是 70% 的概率认为这份文档有用，请求格式和响应格式都不用改。

官方用两套独立的人工标注做了验证。一套是 2262 份文档的盲评打分，评分员按五级标准判断文档是否有实际用处；另一套是 NIST TREC-DL 的 20646 份文档评审结果，按 0 到 3 级标注相关性。两种标法都不参与模型训练。

结果差别很直接。Voyage AI Rerank 3 打 0.55 分的文档，在人工评分员看来只有 24% 真正有用，属于典型的分数虚高。

ECE 是分数与真实有用比例之间的平均差距，越接近 0 越准。Rerank 5 在两套标法上都在 0.06 上下，其它各家是这个误差的四倍以上。校准做好的直接好处是阈值可以跨模型、跨业务复用：官方在 BRIGHT、NanoBEIR、ViDoRe V3 上测得 Pro 的默认阈值稳定落在 0.47 到 0.53 之间，Pro 与 Fast 之间也只差 0.05 以内。Pro 的 0.50 分和 Fast 的 0.45 分都对应「比没用更可能有用」这条线。

它还顺带解决一个工程细节：如果没有任何文档过线，智能体可以改写查询或直接回答不知道，无需再拿排名第一的文档凑一个答案。阈值从「凑够 top-k 条」变成了「按证据强度决定给多少」。

五、多语言与专业语料：日、法、阿语优势最明显

Rerank 5 Pro 在官方评测过的每一种语言上都优于上代 Rerank 4 Pro，西班牙语、法语、德语、阿拉伯语、韩语的提升幅度都在 2 分以上。在内部评测套件的 19 种非英语语言中，Pro 有 14 种排到第一，六个重点商务语言全部在内。评测套件整体覆盖 20 种语言、74 组数据集。

Pro 对 Voyage AI Rerank 3 在这六个语种上逐项领先，差距最大的是日语 2.7 分、法语 2.3 分、阿拉伯语 2.3 分。Fast 对 Voyage AI Rerank 3 Lite 的领先在阿拉伯语上达到 4.5 分。开源一侧，Qwen3-Reranker-8B 与 Qwen3-Reranker-0.6B 在所有语种上都低于 Rerank 5 Fast，也低于上代 Rerank 4 Pro，0.6B 版本德语只有 78.0 分，与 Pro 的 90.6 差 12.6 分。

六、吞吐、价格与落地方式

Fast 是为量设计的。在单张 NVIDIA A100 上持续压测，Fast 每秒能重排约 187 篇标准长度文档（每篇 1000 token），吞吐是 Pro 的 2.9 倍；响应时间接近 Pro 的三分之一。官方给出的测试条件是每次请求 96 篇文档、并发 8、每种文档长度跑 1000 次请求，走 Cohere API。

两档的定价差 2.5 倍（0.05 对 0.02 美元每百万 token），差距和吞吐差（2.9 倍）基本对齐，说明 Fast 的单位算力效率更高。选哪一档取决于瓶颈在质量还是在并发：需要从候选里挑出真正关键的那几份证据，且每次检索的文档量大，Pro 更合适；单个智能体在一次任务里要跑很多次检索、每次只要少量结果，Fast 更合适。

调用方式很轻。官方示例里，把 model 设为 rerank-v5.0-pro 或 rerank-v5.0-fast 这一类模型名，请求体里加上 relevant_spans 的 mode 为 enabled、threshold 设为 0.4，就能同时拿到文档分数和片段起止偏移。私有部署方面，官方提供 Model Vault 隔离推理平台，也可谈自建 VPC 或本地机房方案。

如果还在用更早的检索方案做对比，AI 搜索 API 赛道的价格战背景可以参考 Exa 3.0 搜索 API 的基准对比；中文侧的实时检索接入方式，看腾讯元宝搜索开放 千亿索引与 157 信源；RAG 场景里怎么补实时检索能力，参考DeepSeek Search API 上线。Cohere 这家公司此前的另一条主线是并购整合，可看Cohere 200 亿美元收购 Aleph Alpha。

常见问题

Rerank 5 和 Rerank 4 Pro 该怎么选？

排序质量优先、且需要理解型检索能力的场景选 Pro，BRIGHT 上它比 Rerank 4 Pro 高 12.4 分。若检索链路以高并发、低延迟为主，Fast 的吞吐是 Pro 的 2.9 倍且价格只有四成。两者都不开源权重，这一点与 Qwen3-Reranker 系列不同。

Context Focus 阈值应该设多少？

官方数据显示阈值 0.1 时 token 下降 19%、准确率升到 57%，阈值 0.4 时 token 下降 34%、准确率升到 58%。多数场景可以从 0.1 起步，观察准确率与 token 消耗后再往上推。阈值直接决定送进上下文的证据量，业务上更保守的问答场景不适合一上来就设高。

分数标定准确能带来什么实际好处？

核心是可以用一个跨模型、跨业务通用的阈值来筛证据，不必每换一次模型就重调一遍。在 BRIGHT、NanoBEIR、ViDoRe V3 上 Pro 的默认阈值稳定在 0.47 到 0.53 之间，Pro 与 Fast 相差不到 0.05。阈值还能用来判断「本次没有检索到相关内容」，让智能体改写查询或回答不知道。

小结

Rerank 5 这次更新的两个动作指向同一个目标：让进入大模型上下文的内容更少也更准。Context Focus 用片段级返回替代文档级返回，在搜索智能体实测里换来 35% 的 token 削减和准确率从 46% 到 58% 的提升；分数标定把分数还原成概率，让 0.7 这个数字第一次具备跨模型可比的含义。基准上 BRIGHT 82.2 分、46 组复合数据集 39 组第一、多语言逐项领先，构成这套改动的性能底座。

对已经在做 RAG 或搜索智能体的团队，落地顺序可以是先在现有链路上只换 model 参数，量一版重排前后的质量差；再按业务对准确率的容忍度逐步调 Context Focus 阈值；最后把阈值接到「无结果则改写查询」的分支上。检索与检索增强这条链路上的其它环节，可以参考 EmbeddingGemma2 端侧多模态检索 与 REA 开源工具 的做法。