Get Started

FAQs

关于运行 BitRouter 的常见问题——自托管 vs Cloud、Cloud 的增量、是否需要供应商密钥,以及 BitRouter 与 OpenRouter、LiteLLM、Portkey、Bifrost、TensorZero 的对比。

部署

我需要自己的供应商密钥吗?

只有在以 BYOK 方式自托管时才需要——你把密钥设为环境变量,并按各供应商官方价直接向其付费。使用 BitRouter Cloud 账户则无需上游密钥:一次登录即可覆盖整个托管网络,按请求计费,失败请求不收费。你也可以把 Cloud 附加到自托管二进制上,两者同时使用。

Cloud 是单独的部署或另一个二进制吗?

都不是——Cloud 是你附加的一个账户,而非一个分支。两扇入口都运行同一套开源核心(Apache 2.0),路由引擎完全相同。bitrouter cloud login 在 BYOK 密钥之外启用 bitrouter 托管供应商;可随时移除。参见 Configuration

自托管还是 Cloud?

所有核心能力两种方式都完全一致——Cloud 只补充那些需要你不用自己运维的服务器才能提供的功能。

  • 自托管:你已有供应商密钥、运行本地/私有模型、有数据驻留要求,或独立做原型验证。
  • Cloud:你想要无需管理密钥且按请求计费、无需注册供应商即可用折扣开放模型、需要团队工作区,或需要可用性 SLA。

Cloud 在开源核心之上额外提供了什么?

能力自托管(OSS)
通用 API + 跨协议路由
BYOK(自带供应商密钥)
本地 / 私有模型部署
模型回退与供应商选择
模型变体与预设
防护(Guardrails)
可观测性(OTLP 追踪 + 指标导出)
MCP 与 ACP 网关
结构化输出
命名空间隔离原语
托管供应商网络(无需上游密钥)
开放模型价格折扣
团队席位与工作区级访问控制
托管可观测性控制台
托管计费(统一钱包,按请求计费)
托管端点 SLA
优先支持
Agent 自主支付市场

简而言之,Cloud 额外提供:托管供应商网络(托管模型——无需上游密钥,开放模型享折扣)、带严格作用域密钥的团队工作区、托管可观测性控制台、托管的按请求计费,以及可用性 SLA。其余能力两种模式皆有。

对比

BitRouter 与下面这些网关都路由 LLM 流量。差别在于它们路由什么优化什么——BitRouter 是唯一一个把模型、工具与智能体视为单一可路由面、并优化整个生产循环(如今按成本,设计上支持多目标)的方案。

BitRouterOpenRouterLiteLLMTensorZeroPortkeyBifrost
可路由的原语模型 + 工具 + 智能体(MCP + ACP)模型模型 + 工具(MCP)模型模型 + 工具(MCP)模型 + 工具(MCP)
优化对象循环,多目标(如今按成本)静态路由静态路由模型本身静态路由静态路由

除 OpenRouter 外均为开源且可自托管;BitRouter 与 TensorZero 采用 Rust。

BitRouter 与 OpenRouter 有何不同?

OpenRouter 是面向人工选模型的闭源、仅云端的市场。BitRouter 采用 Apache 2.0 且可自托管、无许可(x402/Solana 按请求付费——无 KYC、无地域限制)、Agent 优先(防火墙、MCP/ACP 网关、技能注册中心),且延迟更低(低于 10ms,对比约 25–40ms)。

BitRouter 与 LiteLLM 有何不同?

LiteLLM 是仅 BYOK、对基础设施依赖较重的开源 Python 代理(生产环境需 Postgres/Redis/K8s)。BitRouter 仅一个二进制、无任何依赖、Rust 原生(Python 会遇到 GIL 而它尾延迟稳定),支持自主 Agent 支付,并增加了内联安全、KYA 身份和技能注册中心。

BitRouter 与 Portkey、Bifrost 及其他通用网关有何不同?

通用网关把 LLM 视作普通的上游 API——日志、缓存、限流、故障转移、BYOK 计费。它们缺少 Agent 身份与运行时模型发现、自主支付协议(x402/MPP)、MCP/ACP 网关、技能注册中心,以及亚 10ms 的原生部署——正是 BitRouter 围绕构建的 Agent 接入面。

BitRouter 与 TensorZero 有何不同?

TensorZero(Rust)优化的是模型本身——提示词、权重、模型选择。BitRouter 优化的是整个循环——跨越模型、工具与子 Agent(MCP + ACP)——如今按成本,延迟与准确率即将到来。

How is this guide?

On this page