Concepts
模型(Models)
在 BitRouter 上,模型是由众多供应商共同提供的聚合体——一个 id、可排序的端点、变体,以及折扣的开源供给。
在 BitRouter 上,"模型"并不是单个端点,而是一个聚合体:一个逻辑模型——比如 openai/gpt-4o 或 anthropic/claude-sonnet-4.6——可以同时由多个供应商提供。你通过一个稳定的模型 id 来访问它,由 BitRouter 决定每个请求实际由哪个底层供应商端点来响应。
这层间接正是关键所在。你的 agent 针对 anthropic/claude-sonnet-4.6 编写,而它背后的供应商集合可以增加、减少或重新定价,你都无需改动一行代码。
一个 id,多个供应商
正因为模型是聚合体,请求它会触发一次供应商选择步骤。默认情况下,BitRouter 按一个均衡评分对符合条件的供应商排序——综合成本、延迟、吞吐与可用性——并把请求发往最优者。当所选供应商出现瞬时故障时,可以回退到下一个排名的供应商,或回退到你列出的下一个模型。
变体为单次请求重新排序
当一个模型有多个供应商时,你有时希望为某一次调用调整这个排序。模型变体是 id 上的内联后缀——:cost、:latency、:throughput——它仅针对该请求、沿你指定的轴对符合条件的供应商重新排序。它从不改变哪些供应商符合条件,也从不改变授权;不带后缀的裸 id 就是默认的均衡策略。
开源模型,享折扣
开源(非闭源)模型还具备第二个特性:BitRouter 通过自托管供应商以默认低于官方定价 25% 的价格提供它们,无需任何后缀或配置。:discount 后缀会把请求显式钉到该供给上,账号上的任何自定义折扣也在此生效。
了解如何使用
How is this guide?