模型网关榜：10 个方案，按上手成本排

多模型、多 key、多团队的统一入口。它决定你的调用能不能被管住、被看见。

这类方案怎么挑

只有一两个模型、一个团队时，网关是纯负担；超过三个来源再上。
看清楚它是「转发」还是「治理」：限流、额度、审计、缓存才是价值。
K8s 系的网关（Higress/Envoy）没有平台团队别碰。

榜单

Bifrost — Docker；模型网关；显存无；难度 2/5；Apache-2.0。
Go 写的 LLM 网关，延迟低，原生支持 MCP 工具与多厂商协议。注意：比较新的项目，文档与边界场景还在补；生态比 LiteLLM 小得多。
GPT-Load — Docker；模型网关；显存无；难度 2/5；MIT。
多 key 负载均衡与故障切换，免费额度和限流打满时能顶上。注意：只管转发，不做额度计费与审计；上游协议一变就得跟着改。
LiteLLM — Docker；模型网关；显存无；难度 2/5；MIT。
把几百个模型的接口统一成 OpenAI 格式，带重试、回退、成本统计。注意：Python 服务，高并发下要自己压测；配置项多，容易配错路由。
New API — Docker；模型网关；显存无；难度 2/5；开源（见仓库）。
One API 的活跃分支，补了额度分组、更多厂商协议和更好的管理界面。注意：和上游已经分叉，升级路径不保证兼容；许可有附加条款，商用前读原文。
One API — Docker；模型网关；显存无；难度 2/5；MIT。
把各家 API 统一成 OpenAI 格式，带渠道管理、额度与令牌分发。注意：上游维护节奏明显变慢；多租户计费与审计要自己二次开发。
One API / New API — Docker；模型网关；显存无；难度 2/5；MIT。
多模型统一网关：一个 key、一套额度、按人计费，内网多模型场景的常见做法。注意：只管转发不管质量；模型路由和降级要自己做。
Portkey Gateway — Docker；模型网关；显存无；难度 2/5；Apache-2.0。
轻量网关，缓存、重试、回退与负载均衡开箱可用，配置是纯 JSON。注意：自建版没有托管版的观测面板与护栏；高级功能要接他们的云。
Envoy AI Gateway — K8s；模型网关；显存无；难度 4/5；Apache-2.0。
Envoy 官方的 AI 网关，按 token 计量、多后端路由，适合已有服务网格的团队。注意：只面向 K8s，配置全是 CRD；概念抽象，没有 Envoy 基础很难推进。
Higress — K8s；模型网关；显存无；难度 4/5；Apache-2.0。
阿里开源的 AI 网关，模型路由、限流、语义缓存与密钥托管一套齐。注意：基于 Envoy，概念多；不上 K8s 基本吃不到它的价值。
Kong — Docker；模型网关；显存无；难度 4/5；Apache-2.0。
老牌 API 网关的 AI 插件：鉴权、限流、日志、密钥轮换都是现成的。注意：AI 能力靠插件拼，完整观测与配额在商业版；配置抽象多，学习曲线陡。

字段核验：2026-11。榜单免费，多条件筛选、CSV 导出与 MCP 接入在会员里。