LM Studio

lmstudio.ai · 本地跑模型 · 桌面 · 免费 · 自建即离线

图形化的本地推理，能直接看显存占用、上下文长度和每秒 token，买卡之前先拿它试。

短板：闭源；服务端模式只适合个人和小团队，不能当企业底座。

桌面端 · 抓图于 2026-11

访问站点 ↗

本地推理桌面应用本地部署

配套 skill：把本地模型接进编辑器，先从「不联网也能补全」开始

代码不能出内网，又想用上 IDE 里的 AI 补全与问答。
可以复制成 local-model-into-ide/SKILL.md 放进 Claude Code，或作为 AGENTS.md 交给 Codex。

1. 先在 LM Studio 里把模型跑起来，用同一个 prompt 对比两个尺寸，选「够用且不卡」的那个。
2. 开启本地 OpenAI 兼容端点，用 curl 打通一次再配置编辑器——先排除网络问题。
3. 编辑器里把补全触发条件收紧（只在停顿后触发），否则会拖慢打字体验。
4. 让本地模型只做补全与解释，重构类任务仍交给人工或更强的模型——本地模型幻觉在长任务上更明显。
5. 观察一周的显存与响应：卡顿多半来自上下文开太大，不是模型不行。

同样用来「本地跑模型」的其它选择

• Ollama — 一条命令把模型拉到本机跑，自带 OpenAI 兼容接口，验证想法和做内网 demo 最快。
• vLLM — 高吞吐推理服务，多人共用一个模型时的默认选择，提供 OpenAI 兼容接口。
• OpenRouter — 一个 key 调几百个模型，价格和延迟能横向比，做模型横评和快速换模型最省事。

← 全部 155 个工具 · 自建选型矩阵 · 痛点专题