编者摘要：Cohere 推出 Rerank 5，分为 Pro 高精度版、Fast 高吞吐低成本版，面向企业文档检索与 AI 智能体场景，核心新增 Context Focus 能力，支持段落级定位相关片段，单次调用同时返回文档相关性分与文档内有效片段，减少送入 LLM 的冗余 Token。Rerank5 Pro 在 BRIGHT、ViDoRe V3、BEIR、nanoMTEB 基准全面领先，金融、医疗、科研、PDF 解析、多语言场景表现突出；Fast 版本延迟更低、吞吐是 Pro 的 2.9 倍，性能优于多款主流竞品。另一关键创新是可校准相关性分数，分数近似等于文档有用概率，校准误差 ECE 远低于竞品，企业可统一阈值过滤，摆脱固定 Top-K 局限。智能体实测：搭配 Context Focus，相比纯 BM25 检索 Token 下降 35%，问答准确率从 46% 提升至 58%。模型兼容向量、关键词混合检索，无需重建索引，支持公有 API、各大云市场与本地私有部署；定价 Pro 为 0.05 美元 / 百万 token，Fast 为 0.02 美元 / 百万 token。
10 个关键问题 Q&A
Q1：Rerank 5 两个版本定位差别是什么？ A1：Pro 主打最高排序质量，适合强推理、高价值检索；Fast 主打低延迟高吞吐，成本更低，适合高并发、Agent 频繁检索场景。
Q2：Context Focus 是什么，解决什么痛点？ A2：段落级片段抽取能力，一次重排调用直接返回文档内相关文本片段，避免把整段文档送入 LLM，削减 Token 成本，减少噪声。
Q3：Rerank 5 的 “可校准分数” 和旧重排器最大区别？ A3：分数可以直接理解为文档有用的概率，不同领域、模型版本阈值统一，不用反复调参；传统重排分数仅用于排序，没有统一概率含义。
Q4：Context Focus 开启后，降本会不会大幅损害答案质量？ A4：不会。移除一半上下文仅损失 2% 答案质量；移除 75% 上下文仍保留 87% 质量，可按需调节。
Q5：Rerank 5 是否需要重建向量索引？ A5：不需要，可直接对接现有 BM25、向量检索、混合检索链路，作为后置重排模块接入。
Q6：Rerank 5 在哪些垂直企业领域优势明显？ A6：金融财报数值推理、医疗生物文献、科研论文、能源气候资料、PDF 解析文档检索。
Q7：多语言支持能力怎么样？ A7：覆盖 20 门语言，重点商业语种（西、法、德、阿、日、韩）全面优于 Voyage Rerank3。
Q8：Fast 版本吞吐和延迟数据如何？ A8：单张 A100 下每秒约 187 篇千 token 文档，吞吐约为 Pro 的 2.9 倍，延迟约为 Pro 的 1/3。
Q9：适合 Agent 智能体工作流的核心原因是什么？ A9：Agent 多步查询、频繁检索，依赖推理型相关性判断；Context Focus 降 Token、校准分数支持判断 “无相关信息”，避免幻觉。
Q10：有哪些部署方式？ A10：Cohere API、Model Vault、微软 Foundry、AWS SageMaker、North 平台；支持 VPC 私有部署、本地私有化。
附录 Cohere Rerank 5 发布：精准、高效的企业级文档检索
为你的 AI 模型匹配每一条提问下最相关的上下文，现已支持段落级精准定位原文来源：cohere.com/blog 作者：Cohere 团队 标签：产品发布、公司动态、企业 AI
AI 不是捷径，而是企业实现领先的方式。 联系销售：cohere.com/contact-sales
要点
- 顶尖检索能力
Rerank 5 Pro 在主流公开评测基准上领跑；Rerank 5 Fast 以更低成本，提供接近顶尖水平的效果。 - 多企业领域表现强劲
Rerank 5 在金融、医疗、科研、解析文档、多语言检索场景均处于第一梯队。 - Context Focus（上下文聚焦，新特性）
单次 Rerank 调用，直接返回文档内部最相关片段，大幅降低 LLM Token 开销，同时答案质量损失极小。 - 可校准相关性分数
-
在不同查询、不同领域下分数口径一致，团队只需设置一条阈值，就可以决定哪些内容送入大模型。 - 灵活部署
支持 Cohere API、Model Vault、微软 Foundry、亚马逊 SageMaker；也可私有部署在自有 VPC 或本地机房，同时面向 Cohere North 全部用户开放，几行代码即可上手。
引言
今天我们正式推出 Rerank 5——Cohere 迄今为止最强的企业级重排模型，分为 Pro 和 Fast 两个版本。Rerank 帮助企业筛选有效信息，向 LLM 传递最相关上下文，给终端用户提供更贴合需求的搜索体验。 Rerank 5 Pro 树立了重排质量新标杆，尤其擅长强推理类搜索、图文混合文档以及各大企业专业场景；Rerank 5 Fast 面向对延迟与成本敏感的业务，在控制开销的同时保留高质量排序能力。 两个版本都搭载全新 Context Focus：不再只做到文档级、块级检索，而是直接定位文档内最相关的文本片段。 LLM 读取的每一个 Token 都产生成本，而检索环节决定了哪些 Token 会被送入模型。随着智能体需要在长文档中频繁检索，检索已经成为企业控制 AI 成本、响应延迟与回答质量的核心抓手。 Rerank 5 和此前发布的 Embedding 5、Parse 解析模型共同组成 Cohere 新一代搜索产品矩阵。现已在 Cohere 控制台、Model Vault、微软 Foundry、AWS Marketplace 以及全部 North 用户中全面可用。 API 定价：Pro 版本 0.05 美元 / 百万 Token，Fast 版本 0.02 美元 / 百万 Token。
性能表现
Rerank 5 Pro 在 ViDoRe V3、nanoBEIR、BRIGHT、BEIR 等主流公开基准上全面领先，超过所有参评竞品。在 46 个复合评测数据集里，39 个拿到第一，43 个稳居前二。 评测采用 Cohere 自研的 RCP-nDCG指标，用来解决传统 nDCG 因为相关性标注不全带来的偏差。 优势在 BRIGHT 基准上尤其突出：这套基准侧重强推理检索，需要超越关键词、普通语义相似度去理解查询意图。Rerank 5 Pro 得分 82.2，相比 Voyage Rerank 3 高出 5.8 分，相比上代 Rerank 4 Pro 提升 12.4 分，也是四大核心基准里代际提升最大的一项。 在 ViDoRe V3 上领先竞品 1.6 分，BEIR 领先 1.8 分，nanoMTEB 领先 3.4 分。这类提升对 Agent 智能体工作流至关重要：复杂多步查询，要求模型推理相关性，找出和原文表述差异很大的有效证据。
Rerank 5 Fast 是速度优化版本，质量提升显著：在四大基准全部优于 Voyage AI Rerank 3 Lite、Qwen3-Reranker-0.6B，甚至超过体量更大的 Qwen3-Reranker-8B 和上代 Rerank 4 Pro。
主基准说明：排序质量指标 RCP-nDCG@10；四个基准：ViDoRe V3（8 个子集）、BEIR（13）、BRIGHT（12）、nanoMTEB（13），分数为子集均值。
垂直领域效果
在企业专业场景，Rerank 5 保持稳定领先：
-
金融经济：Rerank 5 Pro 在金融文档图文检索、财报数值推理、经济复杂问题（BRIGHT Economics）上优势最大，领先 Voyage Rerank 3 达 9.6 分； -
医疗、科研、能源气候检索：可从专业文献、生物医学论文、气候资料中精准提取相关信息。 完整评测结果见配套表格。 
多语言能力
Rerank 5 Pro 在所有测试语种上相比 Rerank 4 Pro 全部提升：西班牙语、法语、德语、阿拉伯语、韩语至少提升 2 分。内部评测共 19 种非英语语言，Pro 在其中 14 种排名第一，包含下表 6 大商业重点语种，且在这 6 种语言全部优于 Voyage AI Rerank 3。 优势最大：日语（+2.7）、法语（+2.3）、阿拉伯语（+2.3）。 Rerank 5 Fast 在这 6 门语言同样全面优于 Voyage AI Rerank 3 Lite，阿拉伯语最高领先 4.5 分。
|
|
|
|
|
|
|
|
|---|---|---|---|---|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
说明：多语言指标为内部评测集 RCP-nDCG@10；整套评测覆盖 20 门语言、74 个数据集。
PDF 解析文档检索
企业文档检索高频场景：PDF 提取文本检索。Pro 平均得分 89.9，高于 Voyage Rerank3（88.4）、Rerank4 Pro（88.3）；Fast 为 88.5，小幅超过这两个竞品。评测共 47 个 PDF 解析数据集，文档使用 Gemini 1.5 Flash 解析。
延迟与吞吐
Rerank 5 Fast 面向高并发场景：在 NVIDIA A100 显卡持续负载下，每秒可重排约 187 篇标准长度文档（单篇 1000 Token），吞吐是 Pro 版本的 2.9 倍；响应延迟接近 Pro 的 1/3，适合低延迟应用、单次任务需要多次检索的智能体。Pro 则适合优先追求排序精度的业务。
测试条件：单张 A100，API 调用，单次请求 96 篇文档，并发 8，1000 + 请求，文档长度为近似值。
Context Focus：重构 Token 成本模型
文档越来越长、智能体检索源越来越多，送入 LLM 的上下文持续膨胀，但一份文档里往往只有寥寥几句和查询相关。冗余文本拉高 Token 开销、增加延迟，还会引入噪声降低回答质量。 Context Focus 是 Rerank 5 新增可选能力：不止判断文档是否相关，而是定位文档内最有价值的文本片段。开发者可以配置阈值，在精简上下文和保留证据之间灵活取舍；一次 Rerank 调用同时返回文档级相关性分数 + 带分数的文本片段。应用层可以只把核心证据传给 LLM，不需要额外增加检索链路步骤。
上下文精简，几乎不牺牲答案质量
团队在 30 套问答数据集上做对照：开启 Context Focus 删减上下文，去掉一半文本时，答案质量仅下降 2 个百分点（保留 96%）；删减 75% 文本，质量仅下降 7 个点（保留 87%）。 Context Focus 相当于一个调节旋钮：保守档位几乎零损耗；需要大幅降本时，可以牺牲少量质量，最高减少 90% 上下文。
智能体链路实测
检索栈从 BM25 关键词检索开始逐步叠加：
-
BM25 基线：准确率 46% -
叠加 Rerank5 Pro（关闭 Context Focus）：49% -
Context Focus 默认阈值 0.1：单任务 Token 下降 19%，准确率提升至 57% -
Context Focus 阈值 0.4：Token 下降 34%，准确率 58%
整体链路对比纯 BM25：Token 减少 35%，准确率从 46% 提升至 58%；6 个深度搜索基准上，Token 减少 41%，准确率从 39% 提升至 52%，全部数据集双指标同步优化。
测试智能体：glm-5-3-flash，仅使用搜索工具，每次检索返回 5 条；BM25 召回 Top100 交给 Rerank 5 Pro 重排。准确率 = 正确回答占比；Token 统计包含输入、输出、推理 Token 以及缓存 Token。
可校准相关性分数
Rerank 5 实现：分数 0.7≈这份文档有 70% 概率是有用信息。 过往绝大多数重排模型的相关性分数只用来排序，分数含义没有统一标尺：不同模型 “高分” 标准不一样，每次换模型都要重新调阈值。 Rerank 5 开箱即可校准：返回的 relevance_score直接代表文档有用的概率，请求与返回格式无需改动。 Pro 和 Fast 的分界口径接近：Pro 大于 0.5 更倾向有用，Fast 大于 0.45 更倾向有用。
校验基于两组模型从未见过的人工标注：盲测标注人员（2262 份文档）、NIST TREC-DL 标注员（20646 份文档）。Rerank 5 的分数和真实有用概率拟合度远优于竞品。 用预期校准误差 ECE衡量（越低越好，0 代表完美对齐）：
|
|
|
|
|---|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
校准能力不会损害排序精度：Pro、Fast 在两个标注集上平均精度依然第一、第二。
业务价值
- 按相关性阈值过滤，而不是固定取 Top-K
窄查询返回少量文档，宽泛查询返回更多，减少送入 LLM 的噪声； - 识别无有效信息场景
没有文档超过阈值时，智能体可以改写查询或者直接回答 “不知道”，避免拿排名靠前但无关内容强行作答； - 一套阈值跨领域、跨版本通用
在 BRIGHT、NanoBEIR、ViDoRe V3 上，Pro 合理阈值稳定在 0.47–0.53 之间，Pro 和 Fast 阈值差距不超过 0.05。
快速上手部署
Rerank 5 Pro / Fast 现已全面上线：Cohere 控制台、Model Vault、微软 Foundry、AWS Marketplace，面向全部 North 用户开放；私有 VPC / 本地部署请联系销售。 Rerank 5 可以对接你现有的检索栈：兼容关键词检索、向量检索、混合检索，无需重建索引；原生支持 LangChain、Haystack、Elasticsearch、Weaviate 等框架。
代码示例（开启 Context Focus）
import os
import requests
query = "Q3信用卡拨备增加了多少？"
documents = [
"市场更新：今年商业地产价格下跌6%，写字楼空置率走高。分析师预计房东再融资压力将持续至明年。",
"Q3信用质量：净坏账率稳定在平均贷款的0.42%。商业地产贷款规模143亿美元，占总贷款9%；其中写字楼贷款21亿美元。受逾期上升影响，信用卡拨备增加8500万美元。",
"Q3按揭业务：利率下行带动住宅按揭放款增长11%，新增贷款平均抵押率68%。",
]
response = requests.post(
"https://api.cohere.com/v2/rerank",
headers={"Authorization": f"Bearer {os.environ['CO_API_KEY']}"},
json={
"model": "rerank-v5.0-pro",
"query": query,
"documents": documents,
"top_n": 2,
"relevant_spans": {"mode": "enabled", "threshold": 0.4, "max_spans": 10}, # 开启Context Focus
},
)
response.raise_for_status()
for result in response.json()["results"]:
document = documents[result["index"]]
print(f"{result['relevance_score']:.2f} {document[:60]}...")
for span in result.get("relevant_spans") or []:
print(f" {span['score']:.2f} {document[span['start']:span['end']]}")
结语
推荐在完整检索链路中试用 Rerank 5。Cohere 托管检索平台 Compass Cloud Beta把文档解析、向量嵌入、混合检索、Rerank 整合为一站式服务，基础设施由 Cohere 托管，目前面向检索密集型、Agent 应用开发者开放私有测试。 可在 X（Twitter）、LinkedIn 关注 Cohere；技术咨询发送邮件至 search@cohere.com。
核心贡献者：Clifton Poth, Fabian Schmidt, Samarth Bhargav, Alekhya Nandula, Yuheng Huang, Arthur Maciejewicz, Dennis Zhao, Timothy Ang, Carlos Lassance, Nils Reimers