OpenRouter

openrouter.ai · 本地跑模型 · API · 按量 · 需海外网络

一个 key 调几百个模型，价格和延迟能横向比，做模型横评和快速换模型最省事。

短板：国内要代理；部分模型有地区限制，也有中途下架的。

桌面端 · 抓图于 2026-11

访问站点 ↗

API 网关多模型需海外网络

配套 skill：用 OpenRouter 给同一任务选模型

要在多个模型之间选一个长期用的，既不想被单一供应商锁死，又不想自己维护多套 key。
可以复制成 model-routing-benchmark/SKILL.md 放进 Claude Code，或作为 AGENTS.md 交给 Codex。

1. 用同一批输入跑 3 个候选模型（强/中/廉各一），把输出存成文件，别只看屏幕。
2. 人工给输出打分，同时记录每个模型的 p50 延迟与 token 花费。
3. 对不合格的模型不要直接淘汰：先看是不是 prompt 没适配，很多差距来自格式要求不明确。
4. 选定主模型后再配一个 fallback（便宜档），并测一次「主模型超时是否真的会切」。
5. 把路由配置写进代码的常量里并注释原因，别散落在各处。

同样用来「本地跑模型」的其它选择

• Ollama — 一条命令把模型拉到本机跑，自带 OpenAI 兼容接口，验证想法和做内网 demo 最快。
• LM Studio — 图形化的本地推理，能直接看显存占用、上下文长度和每秒 token，买卡之前先拿它试。
• vLLM — 高吞吐推理服务，多人共用一个模型时的默认选择，提供 OpenAI 兼容接口。

← 全部 155 个工具 · 自建选型矩阵 · 痛点专题