local-model-infra
最佳 LM Studio 替代品
LM Studio 提供友好的桌面环境，方便下载运行本地 LLM，并开启 OpenAI 兼容服务。
热门替代
与同品类最接近的选项并排对比，快速判断取舍。
- 开始对比
Ollama
简单好用的本地大模型运行器，提供 CLI 与 OpenAI 兼容 API。
- 开始对比
Tabby
开源、可自托管的 AI 编程助手 / 代码补全服务器，适合私有化。
- 开始对比
vLLM
高吞吐开源 LLM 推理引擎，适合私有 GPU 集群。
- 开始对比
LocalAI
开源的 OpenAI API 替代品，可在本地运行模型。
- 开始对比
llama.cpp
高效的 C/C++ LLM 推理库与服务，面向本地 GGUF 模型。
- 开始对比
Hugging Face TGI
Hugging Face 的生产级文本生成推理服务，用于私有模型托管。
- 开始对比
Jan
开源的 ChatGPT 风格桌面应用，可离线运行本地模型。
免责声明:非金融或投资建议，仅供开发者工具对比与教育用途。信息可能变更，购买前请以厂商官网为准。