大模型部署

QMD

本地文档智能搜索引擎,BM25 + 向量语义 + LLM 重排序三合一

免费开源支持中文

一句话:纯本地运行的文档智能搜索引擎——BM25 词频 + 向量语义 + LLM 重排序三合一,不需要联网、不需要 API Key。

它能帮你干什么

  • 把三种检索技术整合到一个工具里:
    • BM25 词频检索
    • 向量语义检索
    • LLM 重排序
  • 为 AI 编程助手和人类用户提供统一的代码库与文档检索入口
  • 不需要联网、不需要 API Key,所有索引和推理都在本机完成
  • 配合 Ollama 本地模型即可实现完全离线的语义搜索

适合谁

  • 隐私敏感的企业内网、个人知识管理场景
  • 要给 AI 编程助手接"本地文档检索"的人
  • 要完全离线、不依赖云 API 的人

关键数据

项目 情况
检索 BM25 + 向量语义 + LLM 重排序三合一
联网 不需要联网、不需要 API Key
配合 Ollama 本地模型 → 完全离线
星标 1.9 万(2026)

上手 / 配置

装好 → 对代码库/文档建索引 → 接进 AI 编程助手或自己用。 调优:要完全离线就配 Ollama 本地模型做重排序;要更快可只开 BM25+向量、跳过 LLM 重排。