llama

只需几行代码，即可在骁龙设备的NPU、GPU和CPU上本地运行前沿LLM和VLM模型

运行前沿LLM和VLM，支持GPU、NPU和CPU的发布当日模型适配，覆盖PC（Python/C++）、移动端（Android和iOS）及Linux/IoT（Arm64和x86 Docker）的完整运行时环境。支持OpenAI GPT-OSS、IBM Granite-4、Qwen-3-VL、Gemma-3n、Ministral-3等模型。

通过Python、Android Java和iOS Swift绑定，在GPU、NPU和CPU上运行最新的LLM和VLM模型，快速部署OpenAI gpt-oss、Gemma 3、Qwen3等主流模型。

FluidVoice - 最快的 macOS 离线听写应用 - 完全本地的语音转文字。一颗 ⭐ 能让我们走得更远 :))

为所有人赋予Kubernetes超能力

✨ AI 编程，Vim 风格

自动生成您一天的时间线

🦄🦄🦄AI赋能股票分析：智能股票分析/选股工具。支持实时行情获取、AI热点资讯解析、资金/财务智能分析、涨跌预警推送。覆盖A股/港股/美股，提供市场整体与个股情绪分析、AI辅助选股功能。所有数据本地存储，支持DeepSeek/OpenAI/Ollama/LMStudio/AnythingLLM/硅基流动/火山方舟/阿里云百炼等平台与模型

可在本地运行AI的生产就绪工具包

自托管人工智能会计应用。支持收据、发票及交易的LLM智能分析器，具备自定义提示词与分类功能

面向桌面的情境感知AI助手，可智能响应并无缝集成多种大语言模型与MCP工具

通过llama.cpp与Alpaca对话的Web界面，完全容器化，并附带易于使用的API。

Android平台最强大的人工智能助手与AI聊天软件

永久免费LLM API列表（API密钥）

⚡ 无需Python的Rust推理服务器 — 兼容OpenAI-API。支持GGUF与SafeTensors、热模型切换、自动发现、单二进制文件。现在免费，永远免费。

🧊 开源大语言模型可观测性平台。一行代码实现监控、评估与实验。YC W23 🍓

在手机、可穿戴设备及AI原生硬件上本地运行人工智能

找到真正能在你的硬件上运行且性能最佳的本地大语言模型。基于真实且考虑时效性的基准进行排名，而非参数数量。一条命令，即刻运行。

在手机、可穿戴设备及AI原生硬件上本地运行人工智能

基于OpenAI API、Ollama、Deepseek-r1、Azure及所有OpenAI API兼容服务的自动化文档分析工具，用于自动分析与标记Paperless-ngx中的文档。

一种模型驱动的方法，仅需几行代码即可构建 AI 智能体。

llama.cpp（或任何兼容本地OpenAI API的服务器）的模型热替换

Lemonade 通过直接在用户自己的 GPU 和 NPU 上运行优化后的 LLM，帮助用户发现并运行本地 AI 应用。加入我们的 Discord：https://discord.gg/5xXzkMu8Zk

RikkaHub是一款支持多种LLM提供商的Android应用