model

面向混合模型的智能路由器。

FlashInfer：大语言模型服务的核心计算库

MLX-VLM：基于MLX在Mac上进行视觉语言模型推理与微调的工具包

专为快速分析与实时数据处理而优化的图数据库，作为PostgreSQL的扩展提供

面向Transformer模型的快速推理引擎

RuVector是一款用Rust构建的高性能向量与图数据库，专为人工智能、智能体系统和实时分析设计。它将HNSW搜索、动态最小割一致性、图智能与自学习记忆融合为统一引擎，实现可扩展、低延迟的推理与结构化检索。

适用于 Model Context Protocol 服务器和客户端的官方 C# SDK，与微软合作维护

一种训练大语言模型的直接方法，涵盖从数据下载到文本生成的完整流程。

CSGHub是由OpenCSG团队开发的全新开源大语言模型管理平台，提供开源版和本地化/SaaS解决方案，功能对标Hugging Face。完整掌控大语言模型、数据集和智能体的生命周期，Python SDK与Hugging Face兼容。欢迎加入我们！⭐️

面向加速基础设施与微服务架构优化的生成式AI参考工作流

[ICLR 2023] ReAct：在语言模型中协同推理与行动

模型上下文协议网关与注册中心。作为集中管理工具，为兼容MCP的LLM应用提供工具、资源和提示词的统一访问入口。可将REST API端点转换为MCP协议，组合具有增强安全性和可观测性的虚拟MCP服务器，并支持不同协议间的转换。

TimeGPT-1：用于预测和异常检测的生产就绪预训练时间序列基础模型。这个基于生成式预训练变换器的时间序列模型在超过1000亿个数据点上训练而成，仅需几行代码即可精准预测零售、电力、金融和物联网等多个领域。

llm-d 是基于 Kubernetes 的高性能分布式 LLM 推理框架

极简风格安卓启动器。减少屏幕使用时间。提供每日壁纸。

通过模型上下文协议将大型语言模型与高级AI智能体连接至Unity编辑器的AI桥梁。可直接在项目中与AI对话生成代码、调试错误并自动化游戏开发任务

原生支持Apple Silicon的LLM服务器，具备MCP支持。

面向加速视频生成的统一推理与训练后处理框架

LTX-Video 对 ComfyUI 的支持

用于因果人工智能的Python库

Elasticsearch与ActiveModel/Record及Ruby on Rails的集成

全球最强大的开源数据目录，用于构建高性能、地理分布式和联邦式元数据湖。

Eagle：采用数据驱动策略的前沿视觉语言模型

📱 官方维基百科 Android 应用！