#llama 每日趋势报告

使用单张4GB GPU实现AirLLM 70B推理

使用单张4GB GPU实现AirLLM 70B推理

Bonsai 演示

将您的PC、Mac或Linux设备转变为AI服务器，支持大语言模型推理、聊天界面、语音、智能体、工作流、RAG及图像生成。

本仓库展示检索增强生成系统的多种先进技术，该系统通过结合信息检索与生成模型来提供精准且上下文丰富的响应

此仓库包含 Hugging Face 智能体课程

🤖 开源免费的OpenAI、Claude及其他AI平台的替代方案。支持自主托管且本地优先，可作为OpenAI的即插即用替代方案运行于消费级硬件，无需GPU。兼容gguf、transformers、diffusers等多种模型架构。功能包括：文本生成、音频处理、视频制作、图像生成、语音克隆、分布式点对点推理。

Lemonade 通过直接在用户自己的 GPU 和 NPU 上运行优化后的 LLM，帮助用户发现并运行本地 AI 应用。加入我们的 Discord：https://discord.gg/5xXzkMu8Zk

《开源大模型食用指南》针对中国开发者定制的Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程

LangChain的Java实现版本

🤘 TT-NN算子库与TT-Metalium底层内核编程模型

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。