llm

轻松根据您在Jellyfin、Plex或Emby上最近观看的内容，向Jellyseer/Overseer请求推荐的电影、电视剧和动漫——让SuggestArr自动处理一切，持续为您的内容库注入新鲜精彩的资源！

SpargeAttention：一种免训练的稀疏注意力机制，可加速任何模型推理

在AMD锐龙™ AI NPU上快速运行大型语言模型，仅需数分钟。

🤖 收集实用的AI仓库、工具、网站、论文和教程。实用的AI百宝箱💎

编辑器代码助手——与编辑器无关的AI结对编程功能

InternRobotics 用于构建通用导航基础模型的开源平台

✨ AI Gist 是一款隐私优先的 AI 提示词管理工具，致力于让个人收藏的 AI 提示词能够发挥最大价值。

cuVS - GPU向量搜索与聚类计算库

使用Strands Agents SDK构建的智能体示例。

【Zotero AI 管家】通过调用大语言模型，自动精读论文库中的文献，并总结为Zotero笔记。

使用 Helm 图表在 Kubernetes 上部署基于大语言模型的应用程序 langgenious/dify。

专注于隐私的AI会议笔记工具，采用本地托管的小型语言模型驱动。用于生成结构化临床笔记的StenoAI Med版本即将推出。

一种提示工程函数式编程语言

Cross-platform desktop application for content-aware file organization and renaming. Supports local and remote LLMs, preview-based workflows, and fully user-controlled changes.

开源持续推理基准测试：Qwen3.5、DeepSeek、GPTOSS - GB200 NVL72对比MI355X、B200、GB300 NVL72、H100，即将支持TPUv6e/v7/Trainium2/3

MCP网关是一个针对MCP服务器的反向代理与管理层，可在Kubernetes环境中实现可扩展、会话感知的有状态路由及MCP服务器的生命周期管理。

Model compression toolkit engineered for enhanced usability, comprehensiveness, and efficiency.

大语言模型的能力上限取决于使用者

Python与Rust最快的PDF库。支持文本提取、图像提取、Markdown转换、PDF创建与编辑。平均耗时0.8毫秒，比行业领先产品快5倍，在3830份PDF测试中通过率100%。采用MIT/Apache-0双协议。

Context-Engine MCP - 智能上下文压缩套件

AI辅助长篇小说创作工具，采用卡片式创作模式，支持基于JSON Schema的结构化AI生成与上下文引用，具备高度可扩展性。

专为大语言模型/视觉语言模型设计的PyTorch分布式原生训练库，开箱即用支持Hugging Face

Mintplex Labs公司出品的AnythingLLM文档

安卓本地人工智能助手