← 选型矩阵

LiteLLM vs One API / New API vs One API

维度LiteLLMOne API / New APIOne API
用途模型网关模型网关模型网关
部署形态DockerDockerDocker
纯内网是是是
显存门槛无无无
部署难度●●○○○●●○○○●●○○○
许可MITMITMIT
成本自建免费自建免费自建免费
中文否是是
扫描件 OCR否否否
批量否否否
多人协作是是是
要注意Python 服务,高并发下要自己压测;配置项多,容易配错路由。只管转发不管质量;模型路由和降级要自己做。上游维护节奏明显变慢;多租户计费与审计要自己二次开发。