#llama 每周趋势报告

使用单张4GB GPU实现AirLLM 70B推理

内置RAG、AI智能体、无代码智能体构建器、MCP兼容等功能的桌面与Docker一体化AI应用

🔥 1Panel 提供直观的 Web 界面和 MCP 服务器，用于管理 Linux 服务器上的网站、文件、容器、数据库和大型语言模型。

此仓库包含 Hugging Face 智能体课程

为OpenAI/Anthropic/Gemini/Bedrock/OpenRouter/DeepSeek/Ollama/VertexAI/Perplexity/Mistral/GPUStack及OpenAI兼容API提供统一的Ruby接口。支持聊天、视觉、音频、PDF、图像、嵌入、工具、流式传输及Rails集成。

在AMD锐龙™ AI NPU上快速运行大型语言模型，仅需数分钟。

为所有人赋予Kubernetes超能力

Aila(AI超元域)：面向Windows、macOS和Android的顶级AI集成工具。一次提问，即可获取来自ChatGPT、Gemini、Claude3、Copilot、Poe、perplexity等10余种AI的答案。支持自定义AI模型和提示词。

LLM辅助代码/文本补全的Vim插件

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。

🤘 TT-NN算子库与TT-Metalium底层内核编程模型