#llama 每月趋势报告

开始使用OpenAI gpt-oss、DeepSeek-R1、Gemma 3及其他模型。

使用单张4GB GPU实现AirLLM 70B推理

Lemonade 通过直接在用户自己的 GPU 和 NPU 上运行优化后的 LLM，帮助用户发现并运行本地 AI 应用。加入我们的 Discord：https://discord.gg/5xXzkMu8Zk

《开源大模型食用指南》针对中国开发者定制的Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程

llama.cpp（或任何兼容本地OpenAI API的服务器）的模型热替换

Android平台最强大的人工智能助手与AI聊天软件

用单个文件分发和运行大语言模型。

OpenWebUI 原生移动客户端，与自托管 AI 进行对话

LLM辅助代码/文本补全的Vim插件

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。