← 选型矩阵 · 向量库
Infinity：向量库，Docker，显存 4G
embedding / rerank 推理服务，把检索模型单独架起来给多个应用共用。
关键字段
| 用途 | 向量库 |
|---|
| 部署形态 | Docker |
|---|
| 纯内网 | 是 |
|---|
| 显存门槛 | 4G |
|---|
| 部署难度 | ●●○○○ |
|---|
| 许可 | MIT |
|---|
| 成本 | 自建免费 |
|---|
| 中文 | 否 |
|---|
| 扫描件 OCR | 否 |
|---|
| 批量 | 是 |
|---|
| 多人协作 | 是 |
|---|
| 要注意 | 只管模型推理，不存向量；要配向量库一起用。 |
|---|
字段核验：2026-11（许可、部署形态、显存门槛来自项目公开文档；价格不上表，会过期）
选它之前要想清楚
只管模型推理，不存向量；要配向量库一起用。
项目主页 ↗
同类替代
- Qdrant（Docker · 显存 无 · 难度 2）— 分片与内存规划要提前算；数据量大时内存占用比预期的凶。
- Milvus（K8s · 显存 无 · 难度 4）— 组件多（etcd、对象存储），单机版也重；几万条数据用它属于杀鸡用牛刀。
- Weaviate（Docker · 显存 无 · 难度 3）— 模块化设计前期概念多；内存占用偏高，小机器容易 OOM。
- Chroma（Docker · 显存 无 · 难度 1）— 单机版的持久化与并发能力有限，数据量一上来就得换；别当生产底座。
把 Infinity 和同类并排对比 →