当一个模型由多个供应商承载时，选择 BitRouter 如何对它们排序——按价格、延迟或吞吐。

BitRouter 上多数模型都由多个供应商承载。当你请求 openai/gpt-4o 时，BitRouter 必须挑选一个已注册的上游来发送请求。默认会用一个综合评分；通过 provider.sort 字段，你可以显式选择策略。

策略只有三种。哪个对当前请求最重要，就选哪个。

三种策略

策略	优化目标	Tie-break
`price`	最低单次请求成本，按你的 prompt 与预期 completion token 数、按上游当前定价计算。	更高在线率 → 更低错误率 → 供应商 ID。
`latency`	最近 1 小时滑动窗口内观测到的最低 p50 TTFT（首 token 时延）。	更高吞吐 → 更高在线率 → 供应商 ID。
`throughput`	最近 1 小时滑动窗口内观测到的最高输出 tokens/秒。	更低 TTFT → 更高在线率 → 供应商 ID。

遥测数据每分钟刷新一次。同样的数据可以在 registry 中各模型的页面上查看。

快速示例

curl http://localhost:8787/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-4o",
    "provider": { "sort": "latency" },
    "messages": [{"role": "user", "content": "把 Hello 翻译成法语。"}]
  }'

同一个 provider.sort 字段在 /v1/messages（Anthropic）和 /v1beta/models/{model}:generateContent（Google）上行为一致。

BYOK 供应商优先

如果你已为某个供应商添加了外部密钥，那么只要该供应商能承载某个模型，BitRouter 就会优先选它——排在所有非 BYOK 供应商之前，且不受 provider.sort 影响。BYOK 请求按上游标价直接计入你自己的账号、没有抽成；而且你已经显式选择了这家供应商，让默认行为尊重这个选择，是唯一不会让你后续被意外打到的策略。

在所有 BYOK 候选之中，provider.sort 策略照常生效。因此 provider.sort: "latency" 配合为 OpenAI 与 Anthropic 配置的 BYOK 密钥时，BitRouter 会先按 TTFT 在这两家之间排序；只有当两条 BYOK 通路都失败，才会按延迟向非 BYOK 供应商兜底。

在 本地模式 下，本节是空操作——所有供应商按定义都是 BYOK。

默认行为

未设置 provider 时，BitRouter 按综合评分排序——价格、延迟、吞吐与在线率的加权组合，并过滤掉在线率过低的供应商。这是大多数代理的合适默认；只有当某一个维度显著重要时，才需要显式设置策略。

默认行为在不同版本之间不保持稳定。 综合评分的权重会随我们对真实流量的观察而调整。如果你需要一个稳定、可复现的策略——用于成本核算、SLO 跟踪或 A/B 实验——请显式设置 provider.sort。

与回退如何叠加

模型回退与供应商选择是两层独立机制：

对 models 列表中的每个模型（或没有回退时只有 model），BitRouter 都按你设置的 provider.sort 策略挑选最佳上游。
若所选上游遇到不会向调用方暴露的失败（限速、5xx），BitRouter 会先在同一模型的下一名上游重试，再切换到列表中的下一个模型。
同一个 provider.sort 策略作用于回退列表中的每一个模型——不能为不同模型分别指定不同策略。

具体来说：models: ["openai/gpt-4o", "anthropic/claude-sonnet-4-6"] 配合 provider.sort: "price"，会先评估 GPT-4o 中最便宜的上游，再评估 Sonnet 中最便宜的上游，再返回错误。

指标打平时

如果两家供应商对同一个 prompt 报价完全相同，那么在线率更高的胜出；若在线率也打平，则错误率更低的胜出；若一切都打平，BitRouter 按供应商 ID 字典序排序——确定且便于审计，但不会做负载均衡。如果在打平的供应商间均匀分发流量对你的工作负载很重要，请到 Discord 描述用例；若有需求，我们会增加 provider.balance 旋钮。

OpenRouter 暴露了大得多的旋钮面——provider.order、provider.allow_fallbacks、provider.require_parameters、provider.data_collection、provider.ignore、provider.quantizations，等等。在使用情况告诉我们需要更多之前，我们刻意只保留这一个旋钮、三个取值。如果你正从 OpenRouter 迁移过来，两条等价表达：

绑定到某一家供应商 — 直接使用带供应商前缀的模型 ID，例如 model: "anthropic-direct/anthropic/claude-sonnet-4-6"。
排除某一家供应商 — 在工作区的 registry 白名单里去掉它，而非放到请求体里。

如果缺失的旋钮挡住了你的真实工作负载，请到 bitrouter 提 issue。

供应商选择