| 维度 | Higress | One API / New API | LiteLLM |
|---|---|---|---|
| 用途 | 模型网关 | 模型网关 | 模型网关 |
| 部署形态 | K8s | Docker | Docker |
| 纯内网 | 是 | 是 | 是 |
| 显存门槛 | 无 | 无 | 无 |
| 部署难度 | ●●●●○ | ●●○○○ | ●●○○○ |
| 许可 | Apache-2.0 | MIT | MIT |
| 成本 | 自建免费 | 自建免费 | 自建免费 |
| 中文 | 是 | 是 | 否 |
| 扫描件 OCR | 否 | 否 | 否 |
| 批量 | 否 | 否 | 否 |
| 多人协作 | 是 | 是 | 是 |
| 要注意 | 基于 Envoy，概念多；不上 K8s 基本吃不到它的价值。 | 只管转发不管质量；模型路由和降级要自己做。 | Python 服务，高并发下要自己压测；配置项多，容易配错路由。 |