#llama 每日趋势报告

🤖 开源免费的OpenAI、Claude及其他AI平台的替代方案。支持自主托管且本地优先，可作为OpenAI的即插即用替代方案运行于消费级硬件，无需GPU。兼容gguf、transformers、diffusers等多种模型架构。功能包括：文本生成、音频处理、视频制作、图像生成、语音克隆、分布式点对点推理。

基于大语言模型的深度文档理解框架，支持使用 RAG 范式实现语义检索和上下文感知应答。

✨ AI 编程，Vim 风格

OpenWebUI 原生移动客户端，与自托管 AI 进行对话

🤘 TT-NN算子库与TT-Metalium底层内核编程模型

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。