每张榜解决一类问题:把模型跑起来、让人用起来、把文档读懂、把声音转成字、把调用管住、把检索托住。榜内按「上手成本」排(难度 → 显存 → 名字),不是按热度——你要的是先试哪一个,不是谁最火。榜单全部免费;按多个条件一起筛、导出 CSV 或接 MCP 才需要会员。
把模型跑起来的那一层。它决定你的卡够不够、并发扛不扛得住、能不能纯内网。
14 个方案:Jan、KoboldCpp、LM Studio、Ollama 等
模型之上的界面与知识库。它决定非技术同事能不能真的用起来。
16 个方案:Cherry Studio、AnythingLLM、Flowise、GenOffice 等
扫描件、表格、公式变成可检索的文字。这是内网知识库的第一道坎,也是最容易翻车的一步。
12 个方案:Tesseract、DocTR、Docling、Unstructured 等
会议录音、客服通话、访谈素材转文字。准确率和显存在这里是最直接的权衡。
10 个方案:Vosk、whisper.cpp、sherpa-onnx、SenseVoice 等
多模型、多 key、多团队的统一入口。它决定你的调用能不能被管住、被看见。
10 个方案:Bifrost、GPT-Load、LiteLLM、New API 等
检索的底座。选哪个由数据规模和运维能力决定,不是由热度决定。
10 个方案:Chroma、LanceDB、FAISS、Qdrant 等