← 选型矩阵

Jan vs Ollama vs llama.cpp

维度JanOllamallama.cpp
用途推理服务推理服务推理服务
部署形态桌面端单机单机
纯内网是是是
显存门槛8G8G无
部署难度●○○○○●○○○○●●○○○
许可AGPL-3.0MITMIT
成本自建免费自建免费自建免费
中文否是是
扫描件 OCR否否否
批量否否否
多人协作否否否
要注意AGPL;桌面单机形态,团队共享与服务器部署要自己另搭。默认上下文短;长文档要显式调大 context 并确认显存够,否则会被静默截断。没有现成界面,模型管理全靠命令行;团队用要自己在上面套壳。