#llama 每日趋势报告

Local Deep Research 在 SimpleQA 基准测试中达到约 95% 准确率（使用 GPT-4.1-mini 测试）。支持本地及云端大语言模型（Ollama、Google、Anthropic 等）。可搜索 10 余种来源——包括 arXiv、PubMed、网络及您的私人文档。所有流程均在本地加密运行。

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

使用单张4GB GPU实现AirLLM 70B推理

基于大语言模型的深度文档理解框架，支持使用 RAG 范式实现语义检索和上下文感知应答。

🔥 1Panel 提供直观的 Web 界面和 MCP 服务器，用于管理 Linux 服务器上的网站、文件、容器、数据库和大型语言模型。

《开源大模型食用指南》针对中国开发者定制的Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程

此仓库包含 Hugging Face 智能体课程

专为语言学习打造的媒体播放器，具备双语字幕、AI生成字幕、实时翻译等功能！

LLM辅助代码/文本补全的Vim插件

为OpenAI/Anthropic/Gemini/Bedrock/OpenRouter/DeepSeek/Ollama/VertexAI/Perplexity/Mistral/GPUStack及OpenAI兼容API提供统一的Ruby接口。支持聊天、视觉、音频、PDF、图像、嵌入、工具、流式传输及Rails集成。

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。