← 选型矩阵 · 模型网关
Envoy AI Gateway：模型网关，K8s，显存 无
Envoy 官方的 AI 网关，按 token 计量、多后端路由，适合已有服务网格的团队。
关键字段
| 用途 | 模型网关 |
|---|
| 部署形态 | K8s |
|---|
| 纯内网 | 是 |
|---|
| 显存门槛 | 无 |
|---|
| 部署难度 | ●●●●○ |
|---|
| 许可 | Apache-2.0 |
|---|
| 成本 | 自建免费 |
|---|
| 中文 | 否 |
|---|
| 扫描件 OCR | 否 |
|---|
| 批量 | 否 |
|---|
| 多人协作 | 是 |
|---|
| 要注意 | 只面向 K8s，配置全是 CRD；概念抽象，没有 Envoy 基础很难推进。 |
|---|
字段核验：2026-11（许可、部署形态、显存门槛来自项目公开文档；价格不上表，会过期）
选它之前要想清楚
只面向 K8s，配置全是 CRD；概念抽象，没有 Envoy 基础很难推进。
项目主页 ↗
同类替代
- One API / New API（Docker · 显存 无 · 难度 2）— 只管转发不管质量；模型路由和降级要自己做。
- LiteLLM（Docker · 显存 无 · 难度 2）— Python 服务，高并发下要自己压测；配置项多，容易配错路由。
- One API（Docker · 显存 无 · 难度 2）— 上游维护节奏明显变慢；多租户计费与审计要自己二次开发。
- New API（Docker · 显存 无 · 难度 2）— 和上游已经分叉，升级路径不保证兼容；许可有附加条款，商用前读原文。
把 Envoy AI Gateway 和同类并排对比 →