llama

免费、本地化、开源的 AI 应用构建工具 ✨ v0 版本 / 可替代 lovable 与 Bolt 的方案 🌟 如果喜欢请点星！

欢迎来到Llama实践指南！这是您使用Llama进行开发的必备指南：涵盖推理入门、微调及RAG技术。我们还将展示如何利用Llama模型家族解决端到端问题，并在不同云服务平台上进行部署

通过全面的追踪、自动化评估和生产就绪的仪表盘，调试、评估并监控您的LLM应用、RAG系统和智能体工作流。

使用单张4GB GPU实现AirLLM 70B推理

基于大语言模型的深度文档理解框架，支持使用 RAG 范式实现语义检索和上下文感知应答。

使用PEFT或全参数方法对500余个大语言模型和200余个多模态大语言模型进行CPT/SFT/DPO/GRPO训练

Meetily是一款隐私优先的AI会议助手，基于Rust构建，提供比Parakeet/Whisper快4倍的实时转录、说话人分离及Ollama摘要功能。100%本地处理，无需云端。作为排名第一的自托管开源AI会议记录工具，支持macOS与Windows系统。

LangChain的Java实现版本

基于LEANN的万物RAG系统。在个人设备上运行快速、精准且完全私密的RAG应用，同时享受97%的存储空间节省。

TensorZero是工业级LLM应用的开源技术栈，整合了LLM网关、可观测性、优化、评估与实验功能。

毕昇是面向新一代企业AI应用的开源大语言模型运维平台，提供强大全面的功能：GenAI工作流、RAG、智能体、统一模型管理、评估监督、监督微调、数据集管理、企业级系统管理、可观测性等

可在本地运行AI的生产就绪工具包

一款免费开源、基于人工智能的自托管实时会议记录与纪要生成工具，可完全在本地设备运行（已支持Mac OS和Windows系统，即将新增Linux支持）https://meetily.zackriya.com/ 这就是meetly ai

一体化大语言模型命令行工具，集成了Shell助手、聊天交互环境、检索增强生成、AI工具与智能代理功能，支持接入OpenAI、Claude、Gemini、Ollama、Groq等多种平台。

AI可观测性与评估体系。

轻松微调、评估和部署gpt-oss、Qwen3、DeepSeek-R1或任何开源LLM/VLM！

运行前沿LLM和VLM，支持GPU、NPU和CPU的发布当日模型适配，覆盖PC（Python/C++）、移动端（Android和iOS）及Linux/IoT（Arm64和x86 Docker）的完整运行时环境。支持OpenAI GPT-OSS、IBM Granite-4、Qwen-3-VL、Gemma-3n、Ministral-3等模型。

通过Python、Android Java和iOS Swift绑定，在GPU、NPU和CPU上运行最新的LLM和VLM模型，快速部署OpenAI gpt-oss、Gemma 3、Qwen3等主流模型。

为所有人赋予Kubernetes超能力

与任意大语言模型进行免提语音交互、语音打断，并支持跨平台本地运行的Live2D虚拟形象

Local Deep Research 在 SimpleQA 基准测试中达到约 95% 准确率（使用 GPT-4.1-mini 测试）。支持本地及云端大语言模型（Ollama、Google、Anthropic 等）。可搜索 10 余种来源——包括 arXiv、PubMed、网络及您的私人文档。所有流程均在本地加密运行。

✨ AI 编程，Vim 风格

可在本地运行AI的生产就绪工具包

自动生成您一天的时间线