对比
与 Bifrost、LiteLLM 的差异
三个项目都是 LLM 网关,但起点不同:Solidway 从一个可安装的桌面应用开始,另外两个从需要部署的服务开始。下面先比产品形态,再比「网关对请求做什么」——都可以在各自项目本身中核实。
什么情况下不要选 Solidway
我们更希望你先选对工具。符合以下任一条,Solidway 就不是合适的选择。
- 你希望用 OpenAI SDK 调用 Claude,或用某家的 SDK 调用另一家的模型。Solidway 不在协议方言之间转换;Bifrost 与 LiteLLM 会做这件事。
- 你需要现成适配、覆盖很长的 provider 清单。LiteLLM 覆盖的 provider 比我们多。
- 你希望用 Python 修改网关行为,与团队现有技术栈保持一致。LiteLLM 更合适。
设计取舍
| 对比维度 | Solidway | Bifrost | LiteLLM |
|---|---|---|---|
| 网关对请求做什么 | 原样转发 | 先转为统一 schema,再转为上游格式 | 先转为统一 schema,再转为上游格式 |
| 实现语言 | Rust | Go | Python |
| 用 A 家 SDK 调用 B 家模型 | 设计上不支持 | 支持 | 支持 |
| 接入新 provider | 修改配置 | 编写适配代码 | 编写适配代码 |
| 故障转移 | 内置 | 内置 | 内置 |
| 负载均衡 | 内置 | 内置;自适应均衡属于商业版 | 内置,提供多种已发布的策略 |
| 熔断 | 内置 | 商业版功能 | 部署级冷却与重试预算 |
| 桌面客户端 | 有——网关与控制台同一个安装包,托盘常驻、可开机自启 | Web UI,由网关自己托管 | Web UI,由网关自己托管 |
| 首次使用前要做什么 | 装一个应用,打开控制台 | 先部署服务,再打开它的 UI | 先部署服务,再打开它的 UI |
| 部署形态 | 桌面应用,或同一个二进制跑在服务器上 | 单个二进制或容器 | Python 服务或容器 |
某项能力若只有商业版才提供,表中会注明,而不是直接标记为「无」。
三种不同的约束
Solidway
围绕桌面应用设计:一次安装同时带上网关与控制台,个人不需要服务器就能跑起一个池化网关。转发路径保持上游自身的协议契约不变;团队需要共享时,同一个二进制可以直接搬到服务器上。
Bifrost
在中间放一层统一 schema,让一个 SDK 可以触达多家 provider,并在外围提供治理、预算与插件体系。熔断与自适应均衡属于其商业版本。
LiteLLM
优先覆盖广度:provider 清单长、接口面多,并提供多种已发布的路由策略。网关用 Python 编写,便于在原位扩展。