← 选型矩阵 · 推理服务
LM Studio:推理服务,桌面端,显存 8G
图形化本地推理,能直接看到显存占用、上下文长度和每秒 token,买硬件前先拿它试。
关键字段
| 用途 | 推理服务 |
|---|
| 部署形态 | 桌面端 |
|---|
| 纯内网 | 是 |
|---|
| 显存门槛 | 8G |
|---|
| 部署难度 | ●○○○○ |
|---|
| 许可 | 闭源 |
|---|
| 成本 | 闭源免费 |
|---|
| 中文 | 是 |
|---|
| 扫描件 OCR | 否 |
|---|
| 批量 | 否 |
|---|
| 多人协作 | 否 |
|---|
| 要注意 | 闭源;服务端模式只适合个人或小团队试用,不能当企业底座。 |
|---|
字段核验:2026-11(许可、部署形态、显存门槛来自项目公开文档;价格不上表,会过期)
选它之前要想清楚
闭源;服务端模式只适合个人或小团队试用,不能当企业底座。
项目主页 ↗
同类替代
- Ollama(单机 · 显存 8G · 难度 1)— 默认上下文短;长文档要显式调大 context 并确认显存够,否则会被静默截断。
- llama.cpp(单机 · 显存 无 · 难度 2)— 没有现成界面,模型管理全靠命令行;团队用要自己在上面套壳。
- vLLM(Docker · 显存 24G+ · 难度 3)— PagedAttention 会预占显存,单卡跑大模型要先算 KV cache,容易 OOM。
- SGLang(Docker · 显存 24G+ · 难度 4)— 版本迭代快,和特定模型/显卡的兼容矩阵要现查,不适合当稳定底座。
把 LM Studio 和同类并排对比 →