← 选型矩阵 · 模型网关
One API / New API:模型网关,Docker,显存 无
多模型统一网关:一个 key、一套额度、按人计费,内网多模型场景的常见做法。
关键字段
| 用途 | 模型网关 |
|---|
| 部署形态 | Docker |
|---|
| 纯内网 | 是 |
|---|
| 显存门槛 | 无 |
|---|
| 部署难度 | ●●○○○ |
|---|
| 许可 | MIT |
|---|
| 成本 | 自建免费 |
|---|
| 中文 | 是 |
|---|
| 扫描件 OCR | 否 |
|---|
| 批量 | 否 |
|---|
| 多人协作 | 是 |
|---|
| 要注意 | 只管转发不管质量;模型路由和降级要自己做。 |
|---|
字段核验:2026-11(许可、部署形态、显存门槛来自项目公开文档;价格不上表,会过期)
选它之前要想清楚
只管转发不管质量;模型路由和降级要自己做。
项目主页 ↗
同类替代
- LiteLLM(Docker · 显存 无 · 难度 2)— Python 服务,高并发下要自己压测;配置项多,容易配错路由。
- One API(Docker · 显存 无 · 难度 2)— 上游维护节奏明显变慢;多租户计费与审计要自己二次开发。
- New API(Docker · 显存 无 · 难度 2)— 和上游已经分叉,升级路径不保证兼容;许可有附加条款,商用前读原文。
- Higress(K8s · 显存 无 · 难度 4)— 基于 Envoy,概念多;不上 K8s 基本吃不到它的价值。
把 One API / New API 和同类并排对比 →