local-llm

内置RAG、AI智能体、无代码智能体构建器、MCP兼容等功能的桌面与Docker一体化AI应用

用单个文件分发和运行大语言模型。

Local Deep Research 在 SimpleQA 基准测试中达到约 95% 准确率（使用 GPT-4.1-mini 测试）。支持本地及云端大语言模型（Ollama、Google、Anthropic 等）。可搜索 10 余种来源——包括 arXiv、PubMed、网络及您的私人文档。所有流程均在本地加密运行。

专为Apple Silicon打造的最快本地AI引擎。比Ollama快4.2倍，缓存TTFT仅0.08秒，100%工具调用。支持17种工具解析器、提示缓存、推理分离与云路由。可直接替代OpenAI，兼容Claude Code、Cursor、Aider。

使用Ollama、OpenAI（兼容）、Gemini、Mistral、Poe或OpenRouter翻译整本书籍和文档，保留格式，支持断点续传，无文件大小限制。

找到真正能在你的硬件上运行且性能最佳的本地大语言模型。基于真实且考虑时效性的基准进行排名，而非参数数量。一条命令，即刻运行。