llama

专为Apple Silicon打造的最快本地AI引擎。比Ollama快4.2倍，缓存TTFT仅0.08秒，100%工具调用。支持17种工具解析器、提示缓存、推理分离与云路由。可直接替代OpenAI，兼容Claude Code、Cursor、Aider。

LLPhant - 一个基于OpenAI GPT 4的综合性PHP生成式AI框架，灵感来源于Langchain

一个现代易用的Ollama客户端

在AMD锐龙™ AI NPU上快速运行大型语言模型，仅需数分钟。

暂无项目描述

🤘 TT-NN算子库与TT-Metalium底层内核编程模型

随处可用的本地AI，人人皆可——涵盖LLM推理、聊天界面、语音、智能体、工作流、RAG及图像生成。无需云端，无需订阅。

一个用于自托管LLM工具调用和多步骤智能体工作流的Python框架

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。

使用Ollama、OpenAI（兼容）、Gemini、Mistral、Poe或OpenRouter翻译整本书籍和文档，保留格式，支持断点续传，无文件大小限制。

为您的语言模型打造温馨家园

Cotabby 是一款面向整个 Mac 的本地 AI 自动补全工具。开源。运行在设备端。覆盖你所有输入场景。

🤖 收集实用的AI仓库、工具、网站、论文和教程。实用的AI百宝箱💎

在安卓设备上本地运行任意GGUF格式的轻量级语言模型或大语言模型

使用Strands Agents SDK构建的智能体示例。

专注于隐私的AI会议笔记工具，采用本地托管的小型语言模型驱动。用于生成结构化临床笔记的StenoAI Med版本即将推出。

安卓本地人工智能助手

Context-Engine MCP - 智能上下文压缩套件

安卓端设备本地人工智能——支持大语言模型聊天、视觉语言模型、图像生成、工具调用、AI角色扮演、检索增强生成知识包、文本转语音与语音转文本。完全离线运行，无需订阅，开源免费。

专为大语言模型/视觉语言模型设计的PyTorch分布式原生训练库，开箱即用支持Hugging Face

Strands智能体SDK技术文档。采用模型驱动方法，仅需几行代码即可构建AI智能体。

一个开源项目，旨在提供具有教育性和协作性的AI驱动平台

一个开源项目，旨在提供具有教育性和协作性的AI驱动平台