大模型部署

llmfit

一条命令找出本地硬件能跑哪些大模型

免费开源支持中文

一句话:一条命令找出你本地硬件能跑哪些大模型——内置数百个模型与提供商数据,帮你买卡/选模型时有依据、不靠猜。

它能帮你干什么

  • Rust 编写的本地大模型适配命令行工具
  • 内置数百个模型与提供商的数据
  • 一条命令列出当前硬件能流畅运行的大模型清单
  • 帮你在购买显卡或选择模型时做有依据的决策
  • 发布在 crates.io,跨平台支持,文档提供英/中/日三种语言

适合谁

  • 买显卡前、想先知道"我这显存/内存能跑多大模型"的人
  • 部署前要做硬件兼容性检查的开发者
  • 非英文母语者,要中文文档的人

关键数据

项目 情况
实现 Rust,crates.io 发布
数据 内置数百个模型 + 提供商
功能 一条命令列出硬件能跑的模型
文档 英 / 中 / 日

上手 / 配置

装好后一条命令跑,它自动读你的硬件(显存/内存/架构)→ 输出能流畅跑的模型清单 → 据此买卡或选模型。