llama

动手学Ollama，在CPU上玩转大模型部署，在线阅读地址：https://datawhalechina.github.io/handy-ollama/

为 Laravel 中操作大语言模型提供统一接口

利用大语言模型和大语言模型视觉技术处理paperless-ngx——由AI驱动的文档数字化方案

LLM辅助代码/文本补全的Vim插件

Aila(AI超元域)：面向Windows、macOS和Android的顶级AI集成工具。一次提问，即可获取来自ChatGPT、Gemini、Claude3、Copilot、Poe、perplexity等10余种AI的答案。支持自定义AI模型和提示词。

随处可用的本地AI，人人皆可——涵盖LLM推理、聊天界面、语音、智能体、工作流、RAG及图像生成。无需云端，无需订阅。

专为Apple Silicon打造的最快本地AI引擎。比Ollama快4.2倍，缓存TTFT仅0.08秒，100%工具调用。支持17种工具解析器、提示缓存、推理分离与云路由。可直接替代OpenAI，兼容Claude Code、Cursor、Aider。

LLPhant - 一个基于OpenAI GPT 4的综合性PHP生成式AI框架，灵感来源于Langchain

一个现代易用的Ollama客户端

OpenWebUI 原生移动客户端，与自托管 AI 进行对话

随处可用的本地AI，人人皆可——涵盖LLM推理、聊天界面、语音、智能体、工作流、RAG及图像生成。无需云端，无需订阅。

一个用于自托管LLM工具调用和多步骤智能体工作流的Python框架

🤘 TT-NN算子库与TT-Metalium底层内核编程模型

在AMD锐龙™ AI NPU上快速运行大型语言模型，仅需数分钟。

使用Ollama、OpenAI（兼容）、Gemini、Mistral、Poe或OpenRouter翻译整本书籍和文档，保留格式，支持断点续传，无文件大小限制。

为您的语言模型打造温馨家园

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。

找到真正能在你的硬件上运行且性能最佳的本地大语言模型。基于真实且考虑时效性的基准进行排名，而非参数数量。一条命令，即刻运行。

🤖 收集实用的AI仓库、工具、网站、论文和教程。实用的AI百宝箱💎

在安卓设备上本地运行任意GGUF格式的轻量级语言模型或大语言模型

使用Strands Agents SDK构建的智能体示例。

专注于隐私的AI会议笔记工具，采用本地托管的小型语言模型驱动。用于生成结构化临床笔记的StenoAI Med版本即将推出。

Context-Engine MCP - 智能上下文压缩套件

安卓端设备本地人工智能——支持大语言模型聊天、视觉语言模型、图像生成、工具调用、AI角色扮演、检索增强生成知识包、文本转语音与语音转文本。完全离线运行，无需订阅，开源免费。